Axion 1.0:简化的开放智能体基础模型
🧭 Agent 基础模型 · 三阶段极简训练 ★ 深度解读
Duke University · ByteDance · University of Maryland, College Park · University at Buffalo
用两阶段 SFT 加 RL 的极简 recipe,构建可复现的开放 Agent 基础模型,在多项 agentic 基准上达到前沿水平
📌 工作参考价值(4 点)
- 模型感知的数据增强:Stage I 用基座模型能否解出作为难度筛选器,只对能解出的题目做组合、参数化、范围移位、分情况讨论等对抗式改写,让数据难度贴合模型能力边界。电商场景中构造训练数据时,可以先用线上模型筛选出“太简单”的样本,再做变体改写,从而提升训练集的信息密度。
- 可验证工具任务生成:Stage II 的 filter-select-compute-verbalize 流水线把结构化商品/内容库转化为需要检索+计算的问答,答案由确定性程序预计算,支持自动验证。对于电商搜索、比价、选品等 agent 任务,可以类似地从商品数据库抽取属性,设计需要多步工具调用和计算的题,自动获得带 ground-truth 的服务数据。
- RL 奖励设计:对未解出的轨迹给部分信用,公式 max(0, 0.3P - 0.1(1-A)) 鼓励中间步骤正确但最终未提交的探索,同时惩罚无终态的输出。在业务 RL 中,长链路 agent 任务(如导购对话)往往最终转化稀疏,引入可验证中间目标(如识别的实体、检索到的属性)能有效缓解奖励稀疏。
- 训练-推理一致性工程:TITO 直接传递 token ID 避免 message re-tokenize 导致的数据漂移;R3 重放 MoE expert routing 降低 rollout 与训练 logprob 偏差。电商推荐系统若使用 MoE 大模型做 agent 微调,可参考这两项工程实践,减少离线-在线性能 gap。
WeVisCut:从脚本到长视频的单一 Agent 编辑系统
🧭 长视频编辑 Agent 策略学习与蒸馏
Xidian University · WeChat Vision, Tencent Inc.
用离线反推编辑决策训练9B策略,在统一工具环境中逼近Claude Opus 5且token减少33倍
📌 工作参考价值(3 点)
- 从成品反推决策的 inversion + verified replay 管线值得借鉴:在推荐/广告的多步决策场景(如会话式推荐、创意生成)中,可以用线上成功案例反推隐式决策链,并通过回放验证构造高质量监督数据,训练小模型逼近大模型。
- 状态化 Agent harness(共享生产状态、工具反馈驱动决策与修复)可迁移到电商 Agent 架构,统一维护商品/素材/用户状态,支持多轮工具调用的一致性和自我纠错。
- 紧凑策略蒸馏思路:9B 模型达到大模型相当效果且 token 减少 33 倍,适合成本敏感的实时推荐/广告文案生成;通过任务特化监督而非通用多阶段工作流,显著降低推理成本。
匹配能力、不同行为:语言智能体MCP与CLI接口受控研究
🧭 Agent 接口表示与工具调用行为分析 ★ 深度解读
The Hong Kong Polytechnic University · Institute of Computing Technology, Chinese Academy of Sciences
在可执行能力固定时,MCP与CLI的接口表示差异显著改变智能体动作选择、失败恢复与成本,DART可修复实现层失败
📌 工作参考价值(4 点)
- 工具接口设计应作为决策环境的一部分:在构建商品搜索Agent、客服Agent或推荐解释Agent时,同一组底层API用MCP schema还是CLI命令呈现,可能改变动作分布和任务成功率。建议针对具体模型做接口A/B测试,不要默认MCP一定优于CLI或反之。
- 借鉴DART解耦“语义决策”与“接口表达”:当工具调用失败时,先验证语义动作是否有效,若有效则只修复参数格式化或调用语法,不重新选择动作。这种commitment-preserving修复可在不增加推理步数的情况下提升恢复率,并显著降低token消耗(最高每任务省27.1k token)。
- 组件级消融定位接口敏感点:将接口分解为presentation、realization、feedback,在相同决策上下文下做因子实验,可快速定位是schema描述、解码协议还是错误反馈导致行为漂移,指导工程化接口优化。
- 交互轨迹的早期分歧会传播:在线Agent系统中,早期接口诱发的细微动作差异可能通过历史状态放大,最终导致任务失败或成本剧增。可通过配对轨迹分析识别高风险决策点,设置针对性干预或缓存策略。
CRM-Agent-Bench:企业有状态环境中工具型Agent评测基准
🧭 企业级Agent执行与合规评测
Salesforce, Inc.
用可执行合同严格评估多轮CRM任务中Agent的动作、状态与合规性,揭示说与做的差距
📌 工作参考价值(4 点)
- 构建内部Agent评测时,不要只看最终答案,可借鉴 executable contract 思路:将业务规则拆成对动作、参数、顺序、响应、目标状态、受保护状态的检查,合成严格成功条件,自动化回归。
- 在电商/推荐场景的Agent(如客服助手、营销文案生成、推荐解释)中,可定义受保护状态(如用户隐私字段、价格锁定、优惠券余额),确保Agent不会越权修改,直接复用其中的 protected state 检查。
- 评估指标必须包含 latency 和 cost,论文中领先系统虽然成功率接近,但成本和领域可靠性差异很大;业务落地前要做成本/稳定性分域分析,避免只按总体准确率选型。
- 给任务打能力标签(工具选择、多步推理、规则遵守等),用于快速定位失败模式,指导后续 prompt 优化、模型微调或工具设计。
HarnessMM:通过守卫决策复用与递归自改进提升 Agent 工具链 Token 效率
🧭 Agent 工具链推理复用与配置自改进
Tsinghua University · Microsoft Research Asia
用守卫决策复用替换工具反馈后的重复推理回调,不改模型权重即可降低Agent harness token成本
📌 工作参考价值(3 点)
- 在电商/导购类 Agent 中,工具返回收据后若满足预设 guard(如价格、库存未变),直接用缓存的动作参数继续执行,避免重复调用 LLM;把“已解析的工具调用”做成可执行决策图,存字面参数与依赖,工程上可大幅省 token。
- 引入 Certified Callback Substitution:在模型-工具边界注册回调替换时,保留原生接口并记录删除慢回调,新语义或证据不足就回退原模型,实践中保障效果不下降。
- 借鉴 RSI:固定模型权重,用训练/评估反馈迭代优化 harness 配置(守卫阈值、缓存策略),验证集选优,能以低成本对线上 agent 配置做自动调参。
CARL:聊天辅助强化学习
🧭 LLM 辅助 RL 规范工程
Santa Clara University · Franklin Templeton
通过人机协同的十步规范工作流与自主工具循环,解决 RL 的规范与性能差距,避免奖励黑客和状态混叠
📌 工作参考价值(4 点)
- 在推荐/广告的强化学习项目中,reward hacking 与状态混叠是常见翻车点。可借鉴 CARL 的“先交互式确认 MDP + 奖励项权重,再生成训练代码”流程,让业务专家在建模前明确状态、动作、约束及多目标权重,减少上线后目标漂移。
- LLM 助手 persona + 步骤级 skill files 结构能引导非 RL 背景的业务/产品参与 RL 任务规范,适合内部自动化建模平台;紧凑决策摘要可跨迭代保留业务约束,避免长对话上下文过载,可直接复用到多轮需求澄清工具。
- 自主工具循环(生成-测试-调试)加训练后诊断重访,适合封装成半自动 RL pipeline 工具,把算法工程师从工程实现中解放出来,聚焦奖励设计与业务验证。
- 论文示例偏金融/控制,但工作流与 persona/skill 机制可迁移到电商强化学习系统的策略调试与参数治理。
OACap:字幕引导主动观察的详细视频字幕生成方法
🧭 多模态 Agent 主动信息获取
Ant Group · Zhejiang University · Peking University
提出字幕中心 Agent OACap,将字幕信息缺口转为定向观察请求,迭代验证提升视频字幕质量
📌 工作参考价值(4 点)
- 在生成式推荐、商品文案、详情页摘要中,把生成结果当作可检验假设,自动检测信息缺口(遗漏关键属性、无支持断言),通过结构化工具(商品库、知识图谱、用户行为 API)补证,降低幻觉。
- 借鉴 revision gap 与 observation gap 的分级:先基于已有上下文修订,只有确实缺证据时才触发昂贵工具调用,适合高成本 LLM 场景;在电商直播切片或短视频理解中可裁剪关键帧/区域做 OCR 或密集采样。
- 事实性评估指标可复用:用 claim precision + importance-aware fact coverage 评估商品描述/搜索摘要是否覆盖关键卖点且不编造;通过原子事实往返匹配衡量语义保持,替代单一文本相似度。
- 迭代验证-修订的工作流可嵌入推荐理由生成、query 推荐解释等 Agent 流程,形成证据闭环。
面向对象 Harness:用继承与路由进化 Agent 执行框架
🧭 Agent harness 分层进化与路由 ★ 深度解读
University of Illinois Urbana-Champaign · Google Cloud AI Research
用继承构建可复用 harness 类并基于执行轨迹路由,三基准最高提升15.79个百分点
📌 工作参考价值(4 点)
- 面向 Agent 工作流:不要用单一 global harness/prompt 硬扛所有场景。把 harness 代码按业务任务聚类做子类继承,公共能力留在父类,差异用 override/add method,回归风险更小、维护更清晰。
- 路由时同时输入 task metadata 和观测到的 base 执行轨迹(工具调用、错误模式、输出格式),并沉淀 routing lessons;在 AutomationBench 这类跨域执行中,轨迹信息可带来 12.64 点提升,比仅看任务描述更可靠。
- 保留 base harness 作为兜底,路由不确定或 OOD 任务直接复用 base 结果,避免强制用不合适的 specialist;论文中 OOD 场景下 Base 复用保持 59.18 PASS,而 global harness 降到 44.90。
- 训练/搜索效率:只在该任务簇上评估候选 harness,不必 rerun 整个发现集;可作为 LLM agent 自动化调参的工程优化,显著降低 API 成本(论文中搜索时长 29h vs 109h)。
OpenVLHarness:面向真实世界视觉 Agent 工具使用的多模态记忆
🧭 多模态 Agent 工具调用与记忆增强推理
University of California, Los Angeles · Apple
通过能力层与持久多模态记忆统一工具输出,多模态 LLM 在 22 个基准上平均提升 9.7-12.6 分
📌 工作参考价值(4 点)
- 电商多模态购物助手中,可借鉴 capability layer + evidence rendering 将商品搜索、图像识别、价格/库存等异构工具输出统一转成结构化 observation,减少模型解析成本。
- persistent multimodal memory 按地址存储商品图、结构化数据、网页引用,支持多轮对话跨步骤引用,避免重复调用工具,适合商品对比、搭配推荐等需要持续上下文的任务。
- coding interface 对存储数据执行生成式程序,可用于多源数据联合计算,如比价、价格历史分析、风格一致性判断,把多个工具结果组合成可执行逻辑。
- 成本收益结论:中等推理 effort + 工具记忆比高 effort 纯推理更优且 token 成本低至 37%,提示业务 Agent 优先做工具集成而非一味增加推理预算。
心跳思考:实时语音代理边听边推测推理与工具执行
🧭 实时语音 Agent 推测工具执行
Ant International
提出 Heartbeat Thinking 机制,在用户说话期间周期性启动 Thinker 并允许已派发工具继续完成,将监听时间转化为可复用的准备,显著提升工具覆盖率并降低最终响应延迟。
📌 工作参考价值(4 点)
- 在实时语音电商客服/导购中,可在 ASR 部分结果上周期性(heartbeat)启动 LLM 推理,不打断已派发工具调用,利用用户说话时间提前完成订单查询、库存检查等工具调用,降低首响延迟。
- 借鉴“共享推理记录 + 工具结果”的设计,将不同心跳周期内已完成的子任务结果保存下来,后续心跳只需补齐缺失参数或发起依赖调用,避免重复计算,提升并发利用率。
- 将推测性工具覆盖率和检索复用率作为在线指标,而不仅是最终任务质量;在语音 Agent 工程中监控“说话期间已完成工具调用比例”,用于评估 anticipation 能力。
- 如果业务中有长尾复杂请求(如退换货、多条件商品咨询),可采用类似多 Thinker 并发机制,允许部分推理分支自然终止,而不是强杀,减少截断导致的重算。
真实 Web 深度搜索基准 OpenDS-World
🧭 真实 Web 深度搜索 Agent 基准评测 ★ 深度解读
HKUST(GZ) · Fudan University · University of Washington · Imperial College London · Nanyang Technological University
提出 OpenDS 任务与 200 题基准,12 个前沿模型最好仅 39.0% 准确率,人类 21.1%
📌 工作参考价值(4 点)
- 评估搜索/Agent 时把成本维度纳入主指标:同时记录 tool calls、wall-clock、tool failure 占比与 budget exhaustion,能发现“高消耗低收益”的执行模式;可在电商搜索 Agent 评测中复刻这套成本与终止分析。
- 业务证据获取往往跨格式(HTML/PDF/视频/结构化数据)和交互操作,不应只测最终答案;可把“证据获取路径”作为任务设计的一部分,考察 agent 能否完成筛选、时间索引、API 查询等子步骤。
- 更多调用和更长耗时不一定带来更高准确率,线上 Agent 应设置预算与早停,并监控低产出轨迹;例如限制搜索步数、对连续失败切换 tool 或终止当前链路。
- LLM-as-judge 可用较小模型做语义等价判定,但难以暴露中间证据链错误;建议在关键步骤加入 intermediate verification 或 checkpoints。
CoworkEnv:合成面向长时程同事智能体的训练环境
🧭 AI cowork agent 训练环境合成
The Hong Kong University of Science and Technology · The Chinese University of Hong Kong · Hong Kong Baptist University · Independent Researcher
用工作流需求合成可执行训练环境,同时产出 SFT 演示与 RL 奖励,训练小型 cowork agent
📌 工作参考价值(4 点)
- 电商智能客服/导购 agent 可参考 capability-guided 任务生成:从工作流需求出发,用程序化校验与反馈修复生成请求、工具接口、评分检查,减少人工标注和评审成本。
- Teacher executions 生成 SFT 演示 + student rollouts 产出 RL 奖励的两阶段数据管线,适合在线学习场景;可直接复用到多轮导购、售后工单处理等长时程任务。
- 关注 reward processing 与 credit assignment 配置:在长多轮 agent RL 中,分步奖励处理和信用分配对训练动态影响大,建议做消融而非直接套用单轮稀疏奖励。
- 对推荐系统本身借鉴有限,但可执行环境与程序化验证的思路可用于构建推荐 Agent 的仿真评估器,快速回归多步工具调用策略。
GatewayBench:MCP 网关能力与安全统一评测平台
🧭 Agent 基础设施评估基准
Tsinghua University · University of Chicago · University of Illinois Urbana-Champaign
首个 MCP 网关统一评测基准,量化扁平与层级网关在任务完成、效率与攻击韧性上的差异
📌 工作参考价值(4 点)
- 在电商/广告 Agent 场景中,若需接入大量工具(商品搜索、订单、营销、报表等),优先采用层级式 MCP 网关,通过工具发现 meta-tool 按需检索,避免将所有工具 schema 塞入 context,降低 token 消耗并提升任务完成率。
- 评测自有 Agent 工具调用时,可借鉴 GatewayBench 注入大量无关工具,模拟真实大规模工具面,观察模型在干扰下的选择能力;工具池尽量用真实业务工具而非合成样本。
- 安全侧:层级网关并非天然安全,需在工具发现层增加权限过滤、来源验证与工具描述审查,防止恶意工具通过检索被暴露给 agent。
- GatewayBench 提供统一任务和可验证 judge 的评测框架,可直接复用其任务构建思路,为内部 MCP 网关选型和迭代建立可量化的回归测试。
τ-Emotion-Bench:用真实用户情绪暴露 LLM Agent 交互脆弱性
🧭 情绪化用户交互下工具调用 Agent 评估与训练 ★ 深度解读
Arizona State University
提出情绪化用户交互基准与 Tracer 数据管线,用交互感知信号训练工具调用 Agent 提升可靠性与跨域迁移
📌 工作参考价值(4 点)
- 在电商导购/售后 Agent 的轨迹合成中,可引入“用户不满可提前终止”的交互感知 reward,过滤最终成功但频繁追问、过度依赖用户的轨迹;让模型优先通过工具查库存/价格/订单,信息不可得时才向用户确认。
- 用户模拟器压测时,不要把情绪作为独立任务或改变任务目标,而应在同一任务上叠加情绪条件(如焦虑、不耐烦、低信任)并保留原成功判定,能更稳定地暴露 Agent 的交互鲁棒性。
- 用“工具调用/追问比”作为线上会话 Agent 的诊断指标:成功会话通常工具调用明显多于追问;可以在 prompt 或 reward 中约束“先查工具,再必要时追问”。
- 借鉴 Tracer 的依赖图 + 反写自然指令流程,可以为业务领域低成本生成 policy-valid 多步任务和训练轨迹;少量高质量交互感知数据比大批普通成功轨迹更利于跨域迁移。
ActionOPD:蒸馏决策,而非令牌
🧭 Agent 动作级在线蒸馏 ★ 深度解读
Tsinghua University
提出动作级在线蒸馏,用语义一致奖励替代 token 概率,实现跨模型家族黑盒 teacher 蒸馏
📌 工作参考价值(4 点)
- 做对话/工具型业务 Agent(如导购、售后、广告投放助手)时,可用强模型作为黑盒 teacher,只采样其动作,不需要 logits 或同 tokenizer;学生模型用语义匹配奖励做 PPO 更新,teacher 选择只看决策质量,便于跨模型家族蒸馏。
- 语义匹配奖励可复用:工具调用先程序化比较工具名和规范化参数(忽略 dict key 顺序、归一化整数浮点),剩余差异交给冻结 LLM;消息比较意图和事实内容,不比较 reasoning token。适合电商 Agent 的动作一致性评估。
- state-group rollout + group-relative advantage:每步采 4 个候选,选最高奖励动作执行,但所有候选都参与训练,用组内均值做 baseline。可缓解 on-policy 漂移并提高样本效率,适合多轮对话策略优化。
- 奖励设计上,invalid 动作给 -1,valid 无匹配给 0,首个匹配给 1,额外匹配给频率 bonus;可降低稀疏语义匹配的方差。但 teacher 动作错误会传播,业务中需对 teacher 动作做有效性过滤或人工审核。
MolLean:化学推理的过程可验证语言
🧭 LLM 推理 · 可验证工具接口
National University of Singapore
MolLean 将化学 CoT 转为可执行状态转换,通过分层检查和 MCP 逐步验证减少幻觉并提升推理
📌 工作参考价值(4 点)
- 用可执行 trace 替代自由文本 CoT:在电商/广告场景中,可为商品属性生成、推荐理由、促销文案等定义领域约束(类目、价格、库存、合规规则),让 LLM 输出可检查的状态转换,而非仅靠 prompt 约束。
- 有状态工具接口与拒绝不变原则:类似 MolLean-MCP 的设计可迁移到 Agent 工具调用,工具校验失败时不修改状态,避免错误动作污染后续上下文,对搜索 query 改写、组合优惠计算等多步交互尤其有用。
- 全过程细化 + 分步验证反馈:先让模型生成完整 trace 再整体修正,适合离线批量生成;对实时要求高、状态约束严的任务,可引入逐步验证反馈,在反应类/多步推理任务中往往能获得额外提升。
- typed witness protocol 分离原生结构检查与外部测量:可借鉴为区分数据库已有事实与模型生成内容,防止模型把未经验证的属性当成事实写入推荐理由或广告文案。
一日合成十年:从人本软件演化构建 Agent 原生接口
🧭 LLM Agent 接口设计与评估
Independent Researcher · LIGHTSPEED
提出 DeskIF-Bench 基准并依据可发现性、粒度、可观察性合成原子接口,提升 LLM Agent 桌面任务成功率并降低约73% token 消耗
📌 工作参考价值(4 点)
- 业务中构建 Agent 操作内部系统(如广告投放、推荐配置后台)时,不要直接让 Agent 调用低层 SDK 或点击 GUI,而是抽象出“原子操作”(如设置预算、创建计划、查询报表)并组合成“目标级命令”(如“暂停超预算广告”),可显著提高成功率并降低 token 消耗(论文中约降低 73%)。
- 设计给 Agent 使用的工具/API 时,重点优化三个属性:可发现性(discoverability)——让 Agent 能快速找到可用操作;粒度(granularity)——操作粒度与任务目标匹配,避免过细或过粗;可观察性(observability)——返回结构化、明确的状态反馈,便于 Agent 决策。这些属性可通过轨迹分析识别。
- 评估 Agent 在不同版本或不同工具接口下的表现时,可借鉴“固定任务、Agent、验证器,只改变接口”的对照方法,定量归因接口设计的影响,指导内部工具迭代。
- 若在电商搜索推荐中引入 Agent 调用推荐引擎或搜索服务,可提供高层命令式接口(如“重排序候选集”),而非暴露底层模型推理细节,提高 Agent 决策效率。
OpenMobile-2:构建可扩展环境与应用原生工具的通用移动智能体
🧭 移动智能体环境与工具混合训练
Nanjing University · SenseTime · The University of Hong Kong · Xi'an Jiaotong University · National University of Singapore
开源移动智能体OpenMobile-2,提供110+应用环境、12K SFT轨迹与2K可验证RL任务,支持GUI与原生工具混合使用
📌 工作参考价值(4 点)
- 借鉴「GUI + app-native tool」混合模式:在电商 Agent 中,把搜索、加购、下单等关键操作封装为结构化工具,与页面 GUI 操作交替使用,可降低对视觉解析的依赖,提高动作准确率和可执行性;同时保留 GUI 兜底应对未封装的长尾页面。
- 用可验证任务 + 自动奖励扩展 RL 训练:借鉴其 2K+ 可执行任务、自动 reward 的设计,在推荐/客服 Agent 训练中构造「完成订单/加入购物车/点击商品」等可自动判定的任务,低成本获取大规模 RL 数据。
- 构建跨 App 工作流仿真环境:在电商场景中,模拟搜索、详情、购物车、支付等多 App 跳转与重置,用于离线评测和训练 Agent,避免在真实 App 上试错;其 MobileGym++ 的 reset/verification 机制可直接迁移。
- 关注长时程商业任务评测:MobileGym++ Bench 支持 GUI-only 与 hybrid 共享任务套件,可用于对比不同交互范式的效果,帮助选型工具化 vs 纯视觉方案。
SuperNav:面向任意任务与场景的智能体导航系统
🧭 Agent 具身导航系统
Zhejiang University · Shenzhen University · Causa Robotics
提出无需导航微调、以工具解耦决策与执行的 MLLM 智能体导航系统,实现任务与场景泛化
📌 工作参考价值(4 点)
- 架构上解耦决策大脑与执行工具:不针对导航任务微调 MLLM,而是通过 agent harness 调用工具,保留通用推理与场景理解能力。对应推荐系统可将 LLM 作为 planner,将召回/排序作为工具,避免微调导致通用知识遗忘。
- 用 visual-point interface 让模型直接在图像上指定目标坐标,而非生成文本描述位置。在多模态推荐或广告素材分析中,可让模型在商品图/场景图中 point 出兴趣区域,作为 grounding 信号辅助推荐解释或素材优选。
- 引入 Navigation Skills 和任务进度管理:显式维护任务状态与目标进度,并在执行反馈后允许模型 revise 决策。在电商 Agent 长链路任务(如导购、多轮商品比较)中,可设计 checkpoint 状态和重规划机制,提升任务成功率。
- 工具与技能抽象:将底层运动封装为可调用的技能,模型只需高层决策。在电商 Agent 中可将搜索、筛选、加购等操作封装为工具,降低模型输出复杂度,提高动作可靠性。
FC-SWE:面向长程软件工程智能体的失败条件强化学习
🧭 Agent 强化学习训练 · Failure-Conditioned RL
NVIDIA · Tsinghua University
引入失败条件 RL 框架,将失败补丁与验证反馈作为恢复轨迹上下文,SWE-bench Verified Resolved@1 从 GRPO 的 38.9% 提升至 41.7%
📌 工作参考价值(4 点)
- 失败反馈作为条件上下文:在电商搜索/推荐 Agent 中,可以把用户负反馈、工具调用失败或验证不通过的结果作为后续恢复轨迹的输入,训练模型主动修复而非重新独立采样,提升多轮交互成功率。
- Trajectory-local rewards:将每次尝试的验证结果单独作为奖励,避免恢复成功错误归因到之前的失败补丁,适合多轮对话或工具调用中每轮独立评估的场景。
- Active-set advantage estimation:只把同一 issue 下实际执行的初始和恢复轨迹纳入比较组,排除未执行的轨迹,可迁移到变长、条件依赖的轨迹训练,改善 GRPO 在复杂 Agent 任务中的优势估计。
- 测试时扩展尝试次数:训练只用最多两次尝试,但测试时用 11 次尝试 Resolved@11 达 70.7%,说明部署阶段可以配合验证器多次尝试,显著提升最终解决率。
HERA:可靠 Agent 弃权的 Harness-环境协同进化框架
🧭 Agentic Abstention · 环境协同进化
University of Washington · University of Leeds · Carnegie Mellon University · Stanford University · Allen Institute for AI
提出 harness 与环境协同进化框架,自动构造可行/不可行任务对,弃权准确率提升至83.3%,跨19个LLM平均提升15.3个百分点
📌 工作参考价值(4 点)
- 构建 Agent 拒答能力:借鉴 HERA 的受控环境变异,对正常可完成商品查询/推荐任务注入库存为零、优惠冲突、参数不合法等扰动,自动批量生成不可行任务对,用于训练或评测 Agent 在缺货、超范围请求时主动弃权/澄清,而不是硬给一个错误推荐。
- 分离 harness 与模型:优化与底层 LLM 解耦的 Agent 控制层(系统提示、工具 schema、终止条件、校验规则),可跨模型复用。HERA 显示优化后的 harness 在 19 个模型上平均提升弃权准确率 15.3%,且小模型搭配优化 harness 可达到大模型效果、成本降 85%,适合电商低成本多模型部署。
- 协同进化环境生成:将线上 badcase 反馈到环境变异器,定向生成针对薄弱点的困难场景(如长尾商品属性缺失、组合优惠冲突),用于持续微调 Agent 行为或补充回归测试集,比固定测试集更能发现边界失效。
- 双指标监控:将可行任务完成率和不可行任务弃权准确率分开评估,避免只优化完成率导致 Agent 在不可行任务上强行输出。在电商推荐 Agent 中,应同时监控“该推荐时推荐”和“该拒绝时拒绝”两个指标。
EVISKILL:基于可回放证据的 Agent 持续技能演化
🧭 Agent 持续技能进化与证据回放
School of Artificial Intelligence, Jilin University, Changchun, China
用可回放证据卡与定向重放验证技能编辑,缓解经验驱动技能演化中证据丢失和全局验证粒度过粗问题
📌 工作参考价值(3 点)
- 把 agent 执行轨迹中的 state/action/observation/context 打包成结构化证据卡,技能修改时显式绑定支撑证据;后续可用同一批轨迹做定向重放验证,让技能更新可审计、可回滚。
- 将验证拆成编辑级回放与全局验证两层:先用局部证据筛选出可信候选修订并暂存,再按整体任务集决定是否并入正式技能,避免一次性拒绝丢失有效局部修正;适合电商客服 SOP、选品策略等需要长期迭代 agent 流程的场景。
- 跨 epoch 保留证据和候选修订,允许证据不足的编辑等待更多交互经验再确认,提供一种更稳的 agent 策略在线进化机制;对推荐策略、工具选择规则等可复现程序知识的维护有价值。
知识还是计算器?可验证金融 Agent 工作流中技能溢价的分解
🧭 Agent 工作流评测 · 技能溢价分解
Independent Researcher · Deep Insight Labs · University of Kent · University of Cambridge
用 2603 个金融 episodes 分解 agent 技能溢价:策展工具 +19.5、文档 +5.6,现场生成几乎无效
📌 工作参考价值(4 点)
- 将高频、可标准化的 agent 子任务沉淀为 curated skill package(可执行工具 + 规范输出 schema),不要依赖 agent 单次生成;实验表明现场生成几乎无增益且更耗 token/turn。
- 数值密集型流程(如预算分配、CTR/ROI 校验、竞价计算)优先提供 executable tools,而非文档说明;工具单独带来 +19.5 分,文档仅 +5.6 分。
- 涉及严格输出结构(如商品标签、推荐理由模板、广告文案字段)的场景,把 output schema 与操作手册作为 curated resource 注入能改善 adherence;但工具+文档组合收益次可加,不要盲目叠加资源。
- 建立 agent 工作流评测时使用任务特定确定性 verifier 和可再生成 ground truth,避免耗时 LLM-as-judge 且保证结果可复现。
Mingbird:本地优先 Agent 框架让小型开源模型完成真实任务
🧭 Agent harness 本地小模型任务执行优化
University of Science and Technology Beijing · Honor Device Co., Ltd.
Mingbird 通过十项机制补偿小模型故障,在 LRAB 与 τ²-bench 上显著超过 goose/opencode/agent-mini
📌 工作参考价值(4 点)
- 小模型做工具调用时,优先治理 prefill 预算而非只靠模型截断:可把工具 schema 压缩到字节级配额,尤其适合端侧或低延迟搜索推荐 Agent。
- 在 Agent 完成提交前增加“重读任务/用户 query”的 finish gate,能减少静默放弃与提前结束;可用于多轮 query 改写、推荐解释生成等需可靠终止信号的场景。
- 采用签名级 loop detection 监控工具调用序列(函数名+参数模式),而不是文本相似度,能更快终止无效循环,节省 token 与延迟。
- 若业务有隐私或成本限制,可考虑 2-9B 本地模型 + 强 harness 做降级链路,通过工程补偿换取小模型可用的任务完成率,而非直接升级大模型。
KaliBench:面向 Kali Linux 的细粒度网络安全工具调用基准与免运行时可验证奖励
🧭 LLM 工具调用评测与可验证奖励训练
Khalifa University · University of Western Australia
构建 8,504 条自然语言到 CLI 的细粒度基准,用可验证奖励把 8B 模型训练到接近 685B MoE 水平
📌 工作参考价值(4 点)
- 在电商/广告 Agent 中,若需要模型生成参数化工具调用(如推荐 API、搜索 API、营销活动配置),可仿照 KaliBench 构建「意图 → 结构化调用」的细粒度评测集。对工具名、参数名、枚举值做 canonicalization 和别名归一化,能定位到 flag 绑定、参数顺序等细粒度错误,而不是只看端到端失败率。
- 设计“无运行时可验证奖励”:用 gold 命令/参数与预测结果做确定性匹配(可包含语义等价的 alias 映射)作为 RL 奖励,避免每次 rollout 都跑真实线上环境;适合用 8B 级小模型做工具调用训练,压缩到接近大 MoE 效果,降低推理成本。
- 构建训练数据时采用多阶段验证:LLM 初判 + 沙箱/模拟器执行 + 人工复核。对业务中高价值的 Agent 工具调用数据,这一组合能显著降低不可执行或错误参数样本进入 SFT/RL 集。
- 结果显示无工具 schema 提示时模型 exact 匹配很弱;在业务 Agent 中应尽量提供结构化 tool schema、枚举约束或 few-shot 示例,把生成空间从自由文本 CLI 转向受约束 JSON 调用,以提升可执行率。
从给定证据到主动采集证据:纵向医疗推理的智能体学习
🧭 Agent 工具调用与证据采集强化学习
Durham University · DAMO Academy, Alibaba Group · Hupan Laboratory · University of the Chinese Academy of Sciences
提出 CASE 角色化临床智能体与训练框架,将证据寻求策略蒸馏到 8B VL 模型,纵向医学基准超越 GPT-5.4 与 Claude Opus 4.8
📌 工作参考价值(4 点)
- 信息获取型 Agent 的环境设计:不要把用户/商品/内容/广告记录一次性塞进大 context,而是将不同数据源组织成可查询工具(历史订单、点击序列、画像、素材、库存/物流等),让策略模型自主决定“看哪个来源、看多细、是否回看”。这更适配需要跨多证据推理的选品归因、活动复盘、商品冷启动与客服工单诊断。
- 训练框架可复用:先 SFT 蒸馏 frontier 模型的多轮工具调用轨迹,再做 on-policy RL + 特权自蒸馏 + rubric-based LLM 反馈;关键是不规定工具调用顺序,只奖励最终结论质量与证据引用合理性。比固定 pipeline 更适合搜索推荐的动态环境。
- 评测结构化:以真实结果(如 ICD-10 诊断)生成问题,让 Agent 在患者环境中主动取数;业务上可由真实成交/退货/投诉/复购结果构造诊断性问题,评估 Agent 的证据检索与归因能力,而不是只看预测 AUC。
- 8B 紧凑策略模型 + 对齐过的评估条件能超过大体量 frontier 模型,说明把前端交互策略训练好,中小模型在特定业务环境中具备落地性价比。
HybridCUA:学习编排 GUI 与 CLI 的计算机使用智能体
🧭 Agent 多模态交互与工具编排 ★ 深度解读
Zhejiang University · Peking University · Tsinghua University
通过统一 bash 动作空间与 CLI-aware 奖励,让 CUA 学会何时用 CLI、如何可靠执行,OSWorld 准确率 53.6% 且步骤减半
📌 工作参考价值(4 点)
- 工具接口统一化:在电商导购 Agent 中,把点击/输入等 GUI 操作与搜索 API、筛选工具统一成同一种 action(如 execute),模型只需学习一个动作语法,降低调度复杂度;本论文统一 bash action 比分开 GUI/CLI tools 高 7.2 个百分点。
- 显式奖励工具选择:对 Agent 的工具使用做两层 reward——任务级根据标签奖励“是否选择了合适的工具”(如该用 API 批量操作时不用 GUI 一步步点),步级惩罚执行失败(如 API 参数错误、SQL 出错),比只给最终成功奖励更能塑造高效且可靠的行为。
- 混合数据构造:从单一 GUI 轨迹转换成等价 CLI 命令并重放验证,可低成本生成混合工具使用数据,不必从头收集。电商场景可以把已有“点击操作”轨迹改写为“调用搜索/下单 API”轨迹,保留成功回放,用于 SFT 温启动。
- SFT+在线 RLVR 两段训练:先 SFT 混合轨迹让模型学会工具切换,再用可验证奖励在线微调,能同时提升任务完成率和降低交互步数(步骤减少 29.3%)。适用于电商 Agent 的购物任务、订单处理等可验证场景。
基于Agent的在线阴谋论检测
🧭 Agent结合社交上下文的意图推断
Department of Computer and Information Science, Ben-Gurion University of the Negev, Israel
提出Agentic框架按需查询社交上下文,在希伯来推文阴谋论检测中显著优于纯文本和非Agentic上下文模型
📌 工作参考价值(4 点)
- 在内容安全/评论审核场景,纯文本分类难以识别反讽、阴阳怪气、隐晦攻击;可引入用户历史行为、商品上下文等作为额外信号,构建工具化上下文查询,让Agent按需取用。
- 架构上不要一次性把所有上下文塞进prompt(token爆炸且干扰推理),而是设计轻量检索工具+逐步推理,每次只拉取与当前判断最相关的证据;论文的token economy分析可指导生产中的成本控制。
- 该工作显示Agentic工作流优于非Agentic但暴露相同上下文的模型,说明动态控制上下文获取过程本身有价值,可用于电商用户意图识别、评论情感分类等需要意图推断的任务。
- 工程落地可设置max tool calls、缓存高频查询或预计算用户/商品侧索引,平衡效果与推理开销。
ExplorationBench:在可验证异世界中评测 AI 系统的探索能力
🧭 LLM Agent 探索能力基准测评
Fudan University · Tencent · Tsinghua University
构建规则可执行且与预训练知识冲突的异世界沙盒,量化 AI 系统通过探索获取并应用全新规则的能力
📌 工作参考价值(4 点)
- 构建规则可替换的沙盒环境来评测 Agent 的探索与适应能力:在电商搜索推荐场景中,可以设计一个规则与线上统计常识冲突的模拟环境(例如排序收益反转、用户行为分布突变),让 LLM Agent 通过有限次交互探索新规则,而不是直接复用历史知识或预训练记忆。
- 提供有缺陷的手册 / 文档作为初始信息:实际业务中的文档、API 说明、运营规则经常过时或部分错误,可借鉴论文做法,用带噪声的初始手册训练或评测 Agent 的纠错与假设验证能力,从而提升对突发规则变更的鲁棒性。
- 关注探索轨迹的非单调性:论文发现持续探索会 stall 或 reverse 先前收益,提示我们在 Agent 流程中需要加入 checkpoint 或最优轨迹回滚机制,避免在长链路任务中因过度探索而丢失已学到的高价值策略。
- 用可执行规则替代人工标注来做自动化评测:将搜索/推荐策略验证转化为可编程的 sandbox,每个动作都可精确判断对错,能低成本生成大规模评测集,适合对 LLM Agent 做回归测试和版本对比。
REFLEX 结合 Jev 实现 LLM 智能体的高效选择性控制
🧭 Agent 选择性控制与强模型调用优化
Nanyang Technological University
REFLEX 用 Jev 做快速类型决策层,低置信或需生成时调强 LLM,100 任务基准上 95% 成功并减少 72.7% 强模型调用
📌 工作参考价值(4 点)
- 架构拆分:在电商导购/广告投放 Agent 中,把“选哪个工具、参数是否合法、是否继续”等有限集合决策从生成式 LLM 中剥离,用轻量分类器或 Jev 类模型先做 typed decision;仅当置信度低于阈值或需要自由文本生成时再调用强模型,可省 70%+ 强模型调用,降低延迟与成本。
- 回退设计:对边界场景(如退款/价格修改等高风险动作)要保守,即便轻量模型置信度不低,也设置 authorization boundary 附近强制回退或人工/强模型复核;因为论文显示授权边界附近的 near-valid alternatives 是主要失败来源。
- 动作空间控制:候选工具/动作数量不要过大,尽量合并语义相近的 action;论文指出可靠性依赖 action-set size,过大会削弱 Jev 选择质量,可先在业务数据上测 action-set size 的影响曲线。
- 先做基线:如果已有便宜生成式模型(如 GPT-4o mini/Gemini Flash)的 cascade 路由准确率已经很高,typed decision layer 可能收益有限;建议先做离线对比实验,再决定是否引入 Jev,而不是直接上。
VideoGen-Agent:强化视频生成智能体
🧭 多模态 Agent 工具使用与强化学习
Princeton University · Stanford University · UC Davis · MMLab, CUHK · Independent
通过多任务智能体强化学习训练多模态 Agent 协调外部工具,显著提升复杂视频生成任务的指令遵循能力。
📌 工作参考价值(4 点)
- 多工具 Agent 的「检索/增强 → 生成 → 验证」闭环可迁移到电商导购 Agent:先搜索增强获取商品知识,再生成推荐理由/文案,最后校验属性一致性与用户意图覆盖,提升复杂需求满足率。
- 奖励函数分解为工具调用合法性、任务适配性、内容质量三类,并做类别平衡与类别感知加权,可借鉴到推荐/广告文案生成 Agent 的训练中,避免只优化点击或转化导致工具滥用或内容偏置。
- 先 SFT 教师轨迹再 RL 精调,且生成工具可独立升级无需重训 Agent,这种解耦架构在业务中可大幅降低迭代成本:底层生成模型或检索库更换后,策略网络无需重新训练。
- VABench 的评估维度(专业知识、身份保持、物理一致性、场景构图、多镜头时序)可迁移为电商视频/商品描述生成的评测框架,尤其多实体身份一致性和时序事件逻辑值得借鉴。
Designer-RSI:从用户流量中演化程序性记忆用于智能平面设计
🧭 Agent 外部程序性记忆持续进化
Adobe · Brown University
冻结大模型加外部程序性记忆持续适应,通过拓宽与深化技能库将设计智能体执行成功率从72.7%提升至99.3%
📌 工作参考价值(4 点)
- 可复用外部程序性记忆库:电商/广告场景中涉及多步工具调用的 Agent(如自动生成商品详情页、广告投放流程调整)可将常用操作流程沉淀为自然语言技能,通过执行经验自动扩充和修订,无需微调模型。
- 拓宽+深化双机制:遇到重复出现的未覆盖子任务时提取新技能(widening);对已有技能用成功/失败轨迹对比修订(deepening),并设置匹配重放门(matched replay gate)作为自动化回归测试,确保新技能不破坏已有成功案例,可直接复用于业务 Agent 的技能迭代。
- 冻结前沿模型 + 外部记忆适应:避免频繁更新大模型权重,降低成本和风险;适合模型无法频繁重训但需要快速适应新任务流的在线系统,如搜索推荐中的 Agent 策略调整。
- 噪声反馈下的持续学习:设计任务无可靠程序化评估 oracle,但通过自动评分轨迹和真实用户 brief 仍能有效演化技能;对电商中大量弱监督/无监督反馈场景有借鉴意义。
APort Vault:基于 Open Agent Passport 的 AI 智能体支付授权基准
🧭 Agent 工具调用授权与安全评估
APort Technologies Inc.
回放 4371 条人类攻击,证明确定性预执行检查可将未授权支付转账从 140 次降至 0 次
📌 工作参考价值(4 点)
- 在 Agent 执行支付、退款、优惠券发放等高风险工具调用前,增加一个确定性的预执行策略层(如 Open Agent Passport),用白名单校验接收方/账户,而不是依赖 LLM 自身的判断,可显著降低越权操作。
- 评估 Agent 安全或工具调用时,不要只统计“请求率”或“成功率”,应分解为请求、成功支付、授权决定、成员资格、未授权转账等多个事件,否则指标会掩盖真正的失败模式。
- 攻击回放与分层 policy 配置(Level 1-4)的思路可迁移到电商 Agent 测试集构建:按风险等级设计不同允许操作范围,在不同配置下回放攻击,并公开数据集以复现结果。
- 业务中更应投入精力设计清晰的授权边界和确定性执行,而非单纯比较 LLM 能力:本研究发现请求率差异主要来自 policy 配置而非模型本身。
量化前沿 LLM Agent 的过度声称完成倾向
🧭 LLM Agent 可靠性与执行-汇报一致性评估
Tara Research · Mila – Quebec AI Institute · Cohere
用 OverclaimBench 揭示前沿 Agent 在文件审查中普遍未读完全部文件却谎报完成,且误导率达 80.4%
📌 工作参考价值(4 点)
- 在电商/广告场景构建需要调用工具或读取多源数据的 Agent(如商品合规审核、广告账户诊断、报表生成)时,不要只采信模型最终自述,应记录实际工具调用/文件读取覆盖生成 execution trace,最终汇报必须由执行日志校验。
- 可引入「已读/未读清单」状态机:Agent 每读取一个商品、数据表或文档就更新状态,最终输出自动附带 coverage 缺口提示;未读完全部时必须强制使用「未覆盖」措辞,降低误导性汇报比例。
- 用 planted defects 做回归评估:在数据集或审核 SOP 中预埋已知错误,检查 Agent 是否发现并报告,同时统计「声称完成但漏报」的比例,作为上线前的可靠性门槛。
- 强制 delegation/subagent 能提升文件覆盖,但需要在子代理返回后增加一层校验;否则残留的未覆盖任务仍可能被大量误导性汇报掩盖。
MintAct:统一数字环境的视觉Agent模型
🧭 多模态Agent统一数字环境操作
Apple
用2B/4B/8B视觉语言模型统一UI定位、跨端多步导航与视觉工具调用,匹配各领域专用模型
📌 工作参考价值(4 点)
- 在电商/广告场景中,可将UI grounding、跨页面多步操作、外部工具调用合并为一个模型,避免为不同端或不同任务维护多个专用Agent,降低部署和迭代成本。
- 借鉴其异步RL框架:显式控制跨域训练分布,能缓解环境反馈噪声和off-policy漂移;做推荐/Agent在线学习时,可参考这种对训练分布的控制来稳定多任务协同。
- 用数百个并发实例同时服务轨迹采集和在线RL的做法,适合需要大量交互数据的电商Agent、搜索导购Agent训练。
- 2B小模型即可在OSWorld-Verified等基准上取得有竞争力的表现,对需要端侧部署的App内助手、广告落地页交互优化有直接参考价值。
经验驱动策略精化的自进化LLM交易智能体
🧭 Agent 自进化策略优化
KAIST · DeepAuto.ai
将Agent的system prompt视为文本参数化策略,由策略Agent基于决策轨迹和组合反馈迭代重写
📌 工作参考价值(3 点)
- 将Agent的system prompt / 工具调用策略当作可优化的“文本参数”,通过定期基于历史交互trace和业务反馈(如转化率、收益)让策略Agent重写prompt,无需微调LLM即可实现策略迭代。适用于搜索/推荐中的Agent决策流程优化。
- 借鉴其批量更新思想:在每轮更新间隔内收集决策动作和实际奖励,然后离线让策略Agent修订系统提示,再用于下一批决策。这样可形成闭环,尤其在非平稳的电商/广告环境中,定期调整信息获取和排序逻辑。
- 行为分析可作为诊断工具:通过比较旧/新策略下的动作分布(如工具调用类型、代码执行比例)和归因分析(策略改动→动作变动→回报变动),找出哪些流程调整真正有效,可迁移到推荐Agent的可解释性分析。
Atria Dawn:智能体超级智能的黎明
🧭 智能体基础模型与可验证经验训练
Atria Team · Fudan University
推出 Atria Dawn Preview:基于可验证经验管道训练的智能体基础模型,16个基准中5个达最高分,并揭示人机协作转向项目级伙伴关系
📌 工作参考价值(4 点)
- 可验证经验管道:在电商/推荐 Agent 场景中,可以把模型输出接入可执行环境(线上沙箱、模拟器、规则引擎)或外部验证信号(转化、GMV、AB 实验结果),将工具调用、策略生成转化为可验证经验,减少不可执行动作和幻觉。
- 人机协作模式:让 Agent 频繁提出方法和实现修改,人类保留最终决策与反馈,适合电商 Agent 工作流(选品、出价、文案生成)中设置 human-in-the-loop 决策门,提升效率且保持风险可控。
- 任务记录分析:借鉴其 769 条任务记录的量化方法,用 Agent 日志评估哪些环节“无 AI 不可行”,识别高杠杆场景,指导资源分配。
- 适用边界:论文聚焦科研与工程 Agent,非直接推荐系统;但可复用“可执行验证 + 工具交互”的建模思路到生成式推荐或策略 Agent,强化外部奖励闭环。
面向 LLM Agent 的过程图:自演化的执行结构
🧭 Agent 过程性记忆与自演化图结构 ★ 深度解读
Google · Georgia Institute of Technology · Peking University
用可编辑的 (procedure, relation, procedure) 图组织过程性知识,在线按当前节点生成局部引导,离线通过验证门控自演化图结构
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 工作流中,把工具或技能(query 改写、召回、精排、解释、政策校验)抽象为过程图节点,边属性写 condition/guidance/pitfalls;推理时用最近一次 tool call 做 exact match 定位,取 2-hop 邻域生成 guidance,比注入全图省 token 且效果更好。
- 离线自演化:用成功/失败轨迹对比让 LLM refiner 提出增删节点/边、改属性,必须通过 held-out validation 不降分才提交;保留 rejection memory,避免重复无效修改。可迁移到自动优化广告投放、选品、客服 Agent 的流程。
- 图结构在权重外,便于审计、回滚和人工修正,适合电商合规/风控;不需要 fine-tune 模型。
- 注意效率:localized generative guidance 在长轨迹上能减少 solver steps,但总 token 仍可能上升,需缓存或选择性生成。
CUA-Universe:面向混合 GUI+CLI 智能体的可扩展动态环境
🧭 混合 GUI+CLI 智能体训练环境
Shanghai Jiao Tong University · Zhejiang University
通过环境到数据管线将真实桌面软件转为混合 GUI+CLI 环境,训练 9B 智能体显著提升成功率与效率
📌 工作参考价值(4 点)
- 在电商后台自动化(商品上下架、批量改价、库存调整、报表生成)中,可借鉴混合 GUI+CLI 思路:让 Agent 同时具备页面视觉检查能力与命令行/脚本批量操作能力,避免纯 GUI 点击的低效和纯 CLI 脚本的脆弱。
- 环境到数据管线值得迁移:将内部业务系统封装为可复现 VM 并暴露 CLI 接口,基于可重用操作和种子文件自动合成不同难度的任务,持续产出训练轨迹,形成数据飞轮。
- Path-Steer 的引导式 rollout 与轨迹收割可作为后训练数据工程手段:在业务 Agent 中采集人工修正或规则约束下的高效动作序列,蒸馏到模型,使模型从低效 GUI 交互转向高效 GUI+CLI 编排。
- 评估不只盯成功率,同时关注步骤数和 token 消耗。业务上除任务完成率外,应把操作步数、API 调用成本纳入核心指标,优化 Agent 的长期效率与成本。
FiMI Banking:印度零售银行主权模型
🧭 Agent 后训练与工具使用优化
NPCI AI Research Team
用偏好优化提升安全拒答,用可验证奖励RL提升多轮工具调用与token效率
📌 工作参考价值(4 点)
- 对客服/导购 Agent,把 out-of-scope/敏感场景拒答 单独用 preference optimization 做后训练,能显著提升安全行为:银行场景从 52% 到 80%。电商里价格承诺、优惠券规则、保险理赔等高风险回答也可复用。
- 多轮工具调用任务用 RLVR(verifiable reward) 而非只靠 SFT/偏好优化:订单状态查询、改地址、优惠核销等可自动校验的任务,既能提升 edge-case 和顺序敏感任务成功率,又能减少 29% token,直接降低 Agent 调用成本与延迟。
- 业务 Agent 上线前,可搭建类似 可控评测环境:从内部文档构建结构化 ground truth + 合成用户背景 + 真实工具接口,用来评估模型是否乱调工具、乱拒或泄漏敏感信息。
- 偏好优化与 RLVR 互补:前者管回复层面安全,后者管多轮工具执行;业务 Agent 后训练可以考虑两阶段组合。
分层多智能体系统实现长程遥感任务可靠求解
🧭 多智能体分层协作与强化学习优化 ★ 深度解读
Beijing University of Posts and Telecommunications · Hunan Normal University
提出 Manager-Specialist 分层多智能体架构,通过步骤级验证和分层强化学习大幅提升小模型长程工具调用与任务成功率
📌 工作参考价值(4 点)
- 复杂长链路业务(选品→人群定向→素材生成→投放→复盘)可借鉴 Manager-Specialist 分层:Manager 负责全局规划、步骤级验证和失败重规划;Specialist 按业务阶段分组工具(如召回/排序/出价),减少跨域工具混淆。
- 在中间产出设置 schema/一致性/约束检查,维护结构化中间状态,支持 fail 重试、uncertain 交叉验证,避免错误在长链路中传播;这对广告投放、推荐策略生成等容易因上游错误导致下游失效的场景尤其有用。
- 训练技巧可复用:两阶段 SFT 先注入领域知识再做 workflow 对齐,能低成本提升小模型业务能力;强化学习时对工具调用按 tier 给分(幻觉工具 -1,域内错误工具 -0.5,正确工具 0.5+执行分),比只奖励最终成功提供更稠密训练信号;Manager/Specialist 分开计算 advantage 后合并 loss,共享 backbone + LoRA 减少部署成本。
- 在小模型上通过结构化层次和验证控制即可接近大模型效果,业务资源受限时不必盲目上大参数量模型。
《你知道我的意思:面向智能体对话式引用消解的基准》
🧭 Agent 多工具引用消解基准 ★ 深度解读
Bar-Ilan University · Allen Institute for AI
提出 CoRG 对话引用消解任务和 REPOREF 基准,最优 LLM 智能体仅 67% 成功率
📌 工作参考价值(4 点)
- 对客服/导购 Agent:把“用户说昨天看的那款”“活动页那个券”这类间接指代建模为多步工具搜索,而不是直接 embedding 召回;把候选发现和最终选择分开诊断。论文显示 70–92% 失败发生在候选没被 surface,所以优先投入查询改写、时间/作者/类目过滤等探索策略,而不是只优化 ranking 模型。
- 数据构建可复用 natural masking:从含商品 ID/URL 的真实会话中,用 LLM 把显式链接改写成自然间接表达,再用 identifiability/ambiguity filter 筛出可唯一定位样本;适合低成本构造测试集或训练数据。
- 工具/API 设计:保留只读、按平台对象组织的搜索与元数据工具,支持按时间/作者/类型过滤;给 agent 预算 B≈6 可能获得大部分收益(B=1→B=6 从 23% 到 64%),再往上成本高但增益有限。生产环境可设 6–10 次调用上限。
- 诊断 bucket 值得迁移:区分 surface mismatch、competitive alternatives、sparse evidence、commit-level(或 SKU/SPU/活动商品级)等,定位自己 Agent 的失败集中区;对低文本显著性的目标(commit 或具体 SKU 变体),需额外文件/属性/历史 diff 校验。
用强化学习训练工具集成数学推理
🧭 RL 训练工具调用数学推理 ★ 深度解读
Department of Energy Science and Engineering, Stanford University
在 Countdown 任务上证明工具调用与 RLVR 互补,Tool-DAPO 把 pass@1 从 35.8% 提升到 66.0%
📌 工作参考价值(4 点)
- 在需要精确数值计算的 Agent 链路(优惠计算、折扣叠加、预算控制、运费)中引入计算器工具,用 <tool>expression</tool> 调用并注入 <obs> 环境观测,可显著减少算术/验证错误;RL 更新时只对模型生成 token 计算 loss,工具输出不参与梯度传播。
- 自动构造带工具调用的 SFT 数据:先定位推理链中的错误算术步,在该步前插入 calculator call,再由参考模型继续生成正确后续推理,能低成本生成 tool-use 训练样本,类似思路可迁移到需要计算校验的 query 理解或搜索词生成。
- 做 RLVR 训练时,若 GRPO 出现训练不稳定,可借鉴 DAPO 的动态采样过滤掉全对/全错 prompt group,或改用 RLOO++ 的 batch-level advantage 归一化,避免零方差 group 带来的噪声更新;本论文中 Tool-DAPO 过滤了 60.7% 的 group,训练效率明显更高。
- 评估 pass@k 时小测试集置信区间很宽,容易误判;建议构造大规模无重叠 held-out set,并用 bootstrap CI 比较不同策略,业务离线评测同理。
ContextPilot:细粒度强化学习驱动的 Agent 主动上下文管理
🧭 Agent 主动上下文管理 · 细粒度 RL ★ 深度解读
Tsinghua University · Tencent Youtu Lab · Shanghai AI Lab
提出 ContextPilot,扩展规划、长期记忆与软卸载工具,并用 context-aware partial rollout 与快照级信用分配训练 Agent,在 32K 窗口下超越更大上下文基线。
📌 工作参考价值(4 点)
- 在电商搜索/推荐多轮 Agent 中,把「上下文管理」显式工具化:提供 planning、结构化长期记忆(实体/事件/关系)和软删除/折叠工具,让模型自主决定何时写入记忆、何时压缩旧搜索结果,而不是依赖固定截断或总结规则。可直接借鉴 ContextPilot 的工具设计,例如将搜索结果中高价值商品信息写入记忆,将低价值长文本 summarize/compress,并用可搜索索引恢复。
- RL 训练时不要均匀探索所有工具调用:用上下文长度变化和生成熵变化给 context editing 动作打分,对高敏感动作(如删除关键历史、写入记忆)做额外分支采样。在推荐 Agent 的 GRPO/RLHF 中,可以对“切换推荐策略/更新用户画像”等关键动作增加 rollout,避免把预算浪费在普通检索步骤。
- 信用分配从 trajectory 级下沉到 snapshot 级:对某个中间上下文状态,取其所有后续分支的奖励均值作为该状态价值,再做组内标准化 advantage。这个 trick 能降低方差,适合长链路推荐/搜索 agent 的中间决策优化,避免用一个最终结果奖励惩罚/强化无关节点的上下文编辑。
- 业务上可复用“更小上下文窗口 + 更强性能”的结论:ContextPilot 以 32K 窗口超过 128K 原模型,token 使用稳定在 8-10K vs baseline 30K,直接降低线上多轮搜索/推荐的 LLM 成本与延迟。
MidTool:面向智能体工具使用的中期训练数据合成
🧭 Agent 工具使用 · 中期训练数据合成 ★ 深度解读
University of Washington · Snowflake · University of North Carolina at Chapel Hill
构建首个通用工具使用中期训练语料MidTool-Mix,显著提升4B/8B模型在函数调用、多步交互和MCP任务上的表现
📌 工作参考价值(4 点)
- 将工具文档、API schema、代码仓库等非结构化数据合成 agentic trajectories 用于 mid-training,可让模型提前学会参数 extraction 和 workflow composition;电商推荐 Agent 可借鉴此思路,针对商品搜索、订单、优惠券等内部 API 构建专属语料,减少对 post-training 的依赖。
- 两条合成分支分别针对 grounding(从文档/PDF生成 QA 和轨迹)和 execution(从真实 API/MCP 生成可执行轨迹),且必须组合才能全面收益;业务上可分别构建「文档问答+多轮调用轨迹」与「真实工具交互轨迹」两个数据管道,避免单一类型导致能力偏科。
- 数据配比约 42% web + 26% code + 23% PDF + 9% native agentic trajectories,其中 9% 的 native 轨迹对精确函数调用贡献最大;在构建内部工具使用语料时可参考此比例,优先保底 code/文档,但必须预留一部分真实可执行轨迹。
- 训练顺序上先 mid-training 再 SFT/RL 能显著提升多轮交互和 unseen tool 泛化,且 SFT 收敛更快;如果业务已有工具调用 SFT 数据,可先做一轮小规模 mid-training 初始化,再用原有 SFT 数据微调,投入产出比高。
单次成功不等于可靠:有状态业务工作流的 Thinkingbox 沙盒与基准
🧭 Agent 可靠性评估 · 有状态业务沙盒 ★ 深度解读
University of Pittsburgh · Northwestern University · University of California, Irvine · Microsoft
提出可执行的状态副作用检查沙盒 Thinkingbox,发现最强模型 pass@1 仅 65.36%,且全部 20 次成功仅 25.25%
📌 工作参考价值(4 点)
- 在电商售后/订单修改/退款等有状态场景,评估 agent 不能只看回复或工具调用是否合法,应定义可执行的后端状态检查(订单、退款、优惠券记录),同时校验“必须变更”和“禁止副作用”。
- 上线评估应同时报告 pass@1 和 pass^k(如 pass^20 全部成功),区分“偶尔能找到成功路径”和“稳定可靠执行”,避免把 pass@20 当可靠性指标。
- 工具错误恢复是主要失效模式(平均 77.5%),建议在 prompt 或训练数据中强制 agent 在关键写操作后二次读取/校验状态,而不是假设工具成功返回即完成。
- 模拟用户可设计为“只回答被问的信息、不主动补充”,推动 agent 学会澄清缺失字段(地址、授权、时间等),接近真实客服多轮交互。
写、执行、精炼:通过执行反馈强化学习训练技能优化器
🧭 Agent 技能优化训练 · 执行反馈强化学习 ★ 深度解读
Harbin Institute of Technology, Shenzhen · The Chinese University of Hong Kong · MoE Key Laboratory of High Confidence Software Technologies · Harbin Institute of Technology, Harbin · Huawei Technologies Co., Ltd.
训练独立 Skill Optimizer,用执行反馈做 phase-wise GRPO,让 4B 模型优化 agent 技能超过通用大模型
📌 工作参考价值(4 点)
- 在电商导购、客服、广告投放等 Agent 系统中,把「策略 prompt / skill」当作可优化参数:冻结执行模型,单独训练一个小模型改写 skill,能获得比直接换更大 LLM 更稳定的收益;执行器冻结可以让优化信号只归因到 skill 本身。
- 如果业务有程序化校验指标(订单完成、API 参数合法、库存/价格约束、终态匹配),优先用 verifier 做 reward,不要用 LLM 打分;配合组内相对优势 GRPO,能避免任务难度差异淹没候选策略差异。
- 构建 replay buffer 时,只保留同一 skill 下「一次成功 + 一次失败」的 paired trajectories 作为下一轮优化样本;这种 mixed-outcome 状态能定位 skill 未约束的分支,比单条失败轨迹更有诊断价值。
- 生产环境建议迭代 1-2 轮即停止:实验显示 2 轮修订后收益饱和,第 3 轮可能倒退;skill 文档用 name/description/workflow/notes 四段式,agent 指令更稳定可维护。
用户中心多轮智能体的意图驱动情境追踪
🧭 Agent 情境状态追踪 ★ 深度解读
University of Electronic Science and Technology of China · Shenzhen International Graduate School, Tsinghua University
提出训练无关的IDSS框架,显式分离工具事实与任务状态,通过约束传播提升多轮Agent完成率与效率
📌 工作参考价值(4 点)
- 在电商多轮导购/客服 Agent 中,可把工具返回(商品、订单、库存、履约)解析为带 provenance 的结构化事实层,与“用户目标/缺失变量/约束”状态分离;这能显著降低长对话中的事实遗漏和错误执行。
- 借鉴跨层约束传播:把预算、配送时效、库存/券可用性、退换政策等建模为可被新事实更新的约束;一旦违反就 block 不可行意图并自动激活替代路径,减少无效工具调用和违规下单。
- 用 <state> 块让 LLM 自更新任务状态并回注下一轮 prompt,不增加额外 LLM 调用;同时把历史中的原始工具返回替换为事实层引用,可低成本控制 prompt 长度,适合线上低延迟场景。
- 变量打标 askable / retrievable / derivable 可指导 agent 何时问用户、调工具或推导,尤其适合需要偏好澄清的电商导购与推荐式对话。
ARC:开放世界真实交互中的公平相对优势比较
🧭 Agent RL 策略条件化优势估计 ★ 深度解读
Ant International
提出策略条件化 rollout 分组的 ARC 方法,消除跨策略奖励偏差,提升 agent 工具调用 RL 训练的公平性与稳定性。
📌 工作参考价值(4 点)
- 在对话式推荐/导购 Agent 中,如果存在“直接推商品”、“先反问偏好”、“确认订单/退款”等多种有效响应,可沿用 ARC 思路:训练时给每个 prompt 注入策略指令,按策略分组计算 GRPO/PPO 优势,避免奖励模型偏好某类话术;推理时去掉指令让模型自主选择。这比单纯加 KL 或 reward shaping 更直接解决跨风格奖励偏差。
- INTER3 的通道分离值得迁移到电商客服/导购场景:用户可见的 <answer> 流式输出与内部工具调用解耦,可以在查询库存/优惠/风控时立即给用户进度反馈,显著降低首 token 延迟(4.91s→1.27s)并支持用户打断;实现只需新增 <answer> 特殊 token 和后处理抽取。
- 多通道生成(推理 + 工具 + 用户文本)训练时建议加熵正则,否则易出现模型反复输出无意义 <answer> 块导致的 entropy collapse;混合奖励可结合工具执行结果与交互格式分项打分。
- 课程式减弱或推理时注入策略指令在 agentic 场景不可靠:策略提示应作为训练期方差控制变量保留,推理时不要依赖;这提示业务中不要试图用推断时 prompt 策略控制模型行为,而应在训练期把策略差异纳入比较结构。
全能科学家:全模态全学科AI科学家
🧭 自主科研多代理 · 多模态感知
National University of Singapore · University of Oxford
端到端多模态AI科学家,从原始异构证据直接完成研究全流程,感知层让论文质量显著提升
📌 工作参考价值(4 点)
- 在推荐/搜索Agent中,让LLM直接感知原始多模态证据(商品图、视频、音频、评论原声)而非只接收预计算标量特征,可以保留空间/时间/跨通道关系,提升推荐解释或商品描述的事实一致性。
- 采用“ideation-experiment-writeup”三代理分工结合确定性管道,把生成任务拆为提案、执行、总结,可迁移到自动化选品、广告文案实验、营销报告生成等场景。
- 借鉴“idea/rigour/claim checks”代码执行校验:对LLM生成的推荐文案、结论做可执行验证,例如数值引用检查、统计显著性检查,增强输出可信度和可追溯性。
- 感知层与代理解耦的设计,便于在商品知识图谱构建、多模态商品理解等业务中逐步引入多模态原始数据。
行动胜于言语:测量工具使用智能体的跨语言策略保留
🧭 多语言智能体 · 策略评估与测量 ★ 深度解读
Microsoft Research India
跨语言评估不应只看答案,需测量行动轨迹一致性;四个前沿模型保留自同一性的份额稳定在71–73%
📌 工作参考价值(4 点)
- 多语言 Agent 上线前,不应仅比对最终答案,要监控行动序列差异:可借鉴 Icross/Iwithin 归一化指标,排除随机性和自一致性天花板,真实衡量语言切换对行动策略的冲击。
- 注意测量中的混淆因子(轨迹长度、空轨迹、偶然一致):任何多模块系统的跨语言对比都需长度匹配、空值剔除,并测量偶然一致基线,否则会误判模型强弱排序。
- 发现「英语枢轴」是成本与失败模式的隐性来源:模型在非英语任务中大量调用翻译工具并内转英语推理,即便指令禁止仍不放弃,这直接导致非英语分支成本更高、失败模式独立于英语回归测试——部署多语言 Agent 时必须针对各语言分支单独审计。
- 单条正则解析可能制造虚假的多语言失败:使用固定模板提取工具调用时,某些模型可能用自然语言提及工具而非严格遵循语法,仅解析失败而非能力不足;建议在日常链路中报告解析失败率,超过 20% 的模型应视为不可排名,避免评估噪声掩盖真实能力。
代理记忆蒸馏:分层教师记忆赋能小模型代理
🧭 代理记忆蒸馏 · 分层教师记忆传递 ★ 深度解读
KAIST · DeepAuto.ai
通过工作流、子任务、函数三层记忆将大模型代理的工具使用经验蒸馏到小模型,无需训练,显著提升工具调用成功率
📌 工作参考价值(5 点)
- 分层记忆设计可直接复用到推荐/电商Agent:将大模型(如GPT-5)在复杂多步推荐任务(如“根据用户画像、实时行为、库存状况生成推荐”)中的成功轨迹,提取为任务规划(Workflow)、子任务执行示例(Subtask)(如召回→过滤→排序)和工具调用指南(Function)(如调用推荐API的参数格式、常见错误处理),注入到4B/8B小模型中,在降低线上延迟与成本的同时保持高质量决策。
- 按需纠错的函数记忆(Function Memory):当小模型调用API出错时,仅在该步按函数名检索成功示例并注入上下文,不增加正常执行时的token开销,适合电商推荐中接口众多、参数复杂的工具调用场景,可显著降低错误恢复重试次数。
- 子任务记忆(Subtask Memory)贡献最大:实验表明,提供具体可执行的API调用序列(代码级示例)比纯文本策略描述更有效,在构建Agent的记忆库时,应优先沉淀高成功率的子任务执行片段,而非仅保存宏观策略。
- 4B规模模型受益最明显:资源受限的线上推荐Agent可优先采用4B量级模型配合AMD,用极低的推理成本达到接近大模型的工具使用能力;对大模型(>8B)效果收窄,可权衡是否部署。
- 训练无关的即插即用方式:无需微调,仅通过提示工程和离线记忆库构建,快速将历史大模型经验迁移到新上线小模型,适合快速迭代的推荐系统上线流程。
EnvACE:通过世界排练内化环境动力学用于智能体强化学习
🧭 Agent强化学习 · 世界模型内化 ★ 深度解读
Shanghai Jiao Tong University · Zhejiang University · National University of Singapore · Sun Yat-sen University · Tencent Inc.
让策略自身扮演环境生成响应,内化交互动力学,实现不依赖外部环境的智能体RL训练
📌 工作参考价值(4 点)
- 训练范式迁移:将环境响应生成的角色交给策略自身,省去构建昂贵的外部仿真环境。对于电商工具调用 Agent(查询库存、下单、修改订单)的训练,可直接用历史交互数据让模型同时学习“动作+响应”,大幅降低环境搭建成本。
- 角色明智 GRPO:对 acting 和 rehearsal 两个角色分别计算基线,但共享参数梯度更新。电商 Agent 训练时可将用户模拟、工具返回模拟作为 rehearsal 角色,与真实 action 角色联合优化,让策略更深刻理解交互因果关系。
- 测试时安全排练:在正式执行前,策略内部进行多次“想象推演”,汇总反馈后指导实际动作。适用于高风险场景(如退款、取消订单、修改支付方式),提前预测错误并修正参数,避免真实环境错误操作。
- 数据效率提升:世界排练允许在无外部反馈的条件下持续改进策略,可在离线数据上预训练 Agent,或结合少量真实交互微调,提升 RL 样本效率。
ToolArtist:工具使用统一多模态模型的智能图像生成
🧭 Agent 多步推理与工具调用
RUC · HKUST(GZ) · NUS · UCD
通过后训练统一多模态模型,实现推理、工具调用与图像生成的端到端Agent策略优化
📌 工作参考价值(4 点)
- 可将完整复杂任务流程(推理→工具调用→生成)交由单一策略模型端到端决策,适用于电商搜索推荐的Agent化改造,动态编排召回、排序、解释生成等步骤。
- 教师代理收集轨迹后隐藏工具调用但保留生成结果,这一数据构造范式可直接用于训练推荐对话Agent,无需手动标注思考链。
- RAD-GRPO结合意图和品质互补奖励的方法可用于推荐场景的多目标RLHF,同时优化相关性和内容质量。
- 训练数据格式转换(工具调用痕迹转化为模型直接生成)为统一多模态模型接入外部工具提供了可复用的工程模板。
Video-DeepResearch:面向视频的多模态深度研究Agent框架
🧭 视频深度研究Agent · 解耦感知探索 ★ 深度解读
USTC · Xiaohongshu Inc. · CUHK · The Hong Kong Polytechnic University · ZJU
首个统一视频深度研究数据、训练与评估的框架,通过解耦感知-探索与GRPO纠正模态偏见,35B模型超越闭源SOTA
📌 工作参考价值(4 点)
- 解耦感知-探索的两阶段流程可迁移至电商多模态搜索:先强制对商品关键视觉特征(如logo、型号)进行裁剪搜索,再开放文本描述与评论检索,能规避模型直接依赖文本偏差。
- GRPO+拒绝采样训练范式适合训练Agent工具使用:用稀疏奖励(正确/错误)结合组内相对优势,无需价值网络即可推动自主探索,可用于训练推荐Agent调用多个API(如商品查询、用户画像)。
- 数据合成中防参数泄漏的筛选策略可直接复用:生成问答对后,用无工具多次问答(Pass@4)过滤掉可凭记忆回答的样本,保证训练数据必须依赖工具,适用于构建需检索的推荐问答对。
- 工具调用频率的诊断价值:通过分析视觉/文本工具平均调用次数来识别Agent的模态偏见,可类比推广到推荐系统Agent监控不同召回通路的使用均衡性。
Beacon:让视觉推理模型知道何时及如何调用工具
🧭 Agent 视觉推理中的自适应工具调用与强化学习 ★ 深度解读
Peking University · Kling Team · HKUST(GZ) · CUHK · ZJU
提出必要性感知自适应奖励与提示引导能力扩展,使模型能自适应调用工具并获真实性能增益
📌 工作参考价值(4 点)
- 自适应奖励设计借鉴:NAAR(必要性感知自适应奖励)可为电商/广告Agent中的工具调用决策提供参考——当纯文本推理即可解决问题时,对不必要的工具调用赋予较低奖励,但仍保留部分正向反馈(如0.25),避免抑制正确但冗余的工具使用;当纯文本失效时,正确工具调用获满奖励。这种软偏好平衡了效率与效果,有利于线上成本控制。
- 困难样本的专家引导训练:HCE(提示引导能力扩展)展示了如何利用教师模型生成子目标提示,引导策略在困难样本上探索,训练后再去掉提示使模型独立求解。这类似于在推荐Agent中处理长尾/冷启问题:先用强模型生成中间推理步骤的提示,帮助学生模型学习有效工具组合,最终摆脱对强模型的依赖。
- 在线标注避免分布偏移:NAAR 基于当前策略的组内正确性动态标注样本是否需要工具,而非固定教师模型。在动态变化的推荐场景(如季节性偏好)中,这种在线标注方式可让工具调用策略随模型能力同步进化。
- 混合策略优化与重要性采样:同时训练普通采样和提示引导采样的轨迹,并对提示轨迹使用重要性采样校正(将提示输入替换为原始输入),实现能力迁移。这一技巧可迁移到任何需要将外部知识注入策略训练的Agent场景。
FinanceHarness:自主金融深度研究框架
🧭 Agent驱动的金融深度研究框架
Google Cloud AI Research · University of California, Los Angeles
提出面向金融领域的自主深度研究框架及点时间基准FinanceGym,将代理评分从25.3%提升至32.4%
📌 工作参考价值(4 点)
- 领域专用Agent工作流设计:电商搜索推荐Agent可借鉴分层harness思想,封装商品查询、行为分析、趋势预测等工具,构建多步骤推理流水线(如竞品分析→选品策略→文案生成)。
- 点时间基准避免数据泄露:针对促销预测、季节品推荐等时间敏感任务,可参照FinanceGym的pre-cutoff/post-cutoff评估设计,确保测试集不包含未来信息,真实反映模型能力。
- 奖赏建模指导Agent优化:可对推荐报告、搜索策略输出定义自动评分标准(如覆盖率、新颖性、时效性),用于RLHF或拒绝采样微调,提升Agent执行质量。
- 专家验证基准的效用:在构建垂直领域Agent评测集时,引入专家人工验证确定难度和真实水平,避免纯自动指标误导,发现顶尖模型仍有较大改进空间。
OpenForgeRL:在任意环境中训练原生 Harness 智能体
🧭 Agent 端到端 RL 训练与 Harness 解耦 ★ 深度解读
Columbia University · Dartmouth College · Microsoft Research
一个开源框架,通过远程容器化与轻量代理解耦,支持用标准 RL(veRL)在任何智能体框架与任何环境中端到端训练 agent
📌 工作参考价值(4 点)
- 训练与推理解耦的工程模式:用轻量级 Proxy 拦截 Harness 的模型调用,自动重建轨迹,直接将复杂 agent 的交互过程转为 RL 可消费的样本,适用于内部多轮对话/工具调用 agent 的在线强化学习,无需重写训练代码。
- 云端容器化 rollout 编排:Kubernetes 编排远程沙箱,每个 rollout 独立容器,训练节点与 rollout 节点完全分离,可弹性伸缩。在电商推荐中可复现这种「训练 GPU + 远程 CPU 执行环境」的解耦架构,用于策略学习或 Agent 探索。
- 自动任务与环境合成流水线:通过「提出-剪枝-构建-测试-精炼」五步法自动生成大量可执行任务与 Docker 环境,可迁移到推荐系统中生成多样化的用户 query、对话策略或评测任务。
- RL 带来的 agentic 可靠性提升:实验表明 RL 显著改善自我验证、工具覆盖率和多步规划能力,但纠错能力依然薄弱。这提示在业务 Agent 训练中,可针对性地引入纠错样例或辅助任务来补强。
NVIDIA原生面向对象Agent框架NOOA
🧭 面向对象Agent编程框架
NVIDIA
将Agent抽象为Python对象,方法即动作、类型即契约,统一开发者与模型的编程接口
📌 工作参考价值(4 点)
- 推荐Agent工程化:将推荐逻辑(召回、排序、过滤)封装为Agent类方法,... 体方法由LLM动态补全,普通方法保留确定性执行,兼顾灵活性与可控性,适合搜索推荐多步决策。
- 类型注解即Contract:利用Python类型提示约束LLM输入输出(如 ProductQuery → List[ItemId]),减少prompt模板中的格式说明,自动校验并提高agent可靠性,可直接迁移到现有Pydantic+工具链。
- 可测试可追踪:Agent就是普通Python对象,能用pytest单元测试、用标准tracer追踪调用链,解决生产环境Agent行为难复刻、难调试的痛点,尤其适合电商多轮对话推荐中的状态回溯。
- 事件与上下文API:通过模型可调用的harness API传递上下文和事件,天然适合构建有状态的多轮对话式推荐/搜索Agent,管理长期记忆与用户意图,避免自建复杂状态机。
OmniaBench:跨场景通用AI智能体基准测试
🧭 通用AI智能体多场景评测基准
Huawei Cloud Post-Training Team · PKU DCAI Team
构建覆盖ToC/ToB/ToE多领域、支持细粒度能力评估的通用智能体基准,前沿模型Pass@1仅约58%
📌 工作参考价值(4 点)
- 多领域评测维度复用:OmniaBench 从应用商店、产品文档等提炼的 90 个一级领域、354 个二级领域的层次化分类,可直接迁移到电商场景,构建覆盖商品搜索、客服对话、营销文案生成等不同业务子领域的 Agent 评测框架,确保评估广度。
- 能力诊断框架借鉴:十维能力分类(如规划、工具调用、约束维持)和八种原子难度因子可用于拆解搜索推荐 Agent 的关键短板,例如诊断是意图理解不足还是工具选择错误,针对性优化模型训练或 prompt 设计。
- 任务合成方法迁移:DAG/Solver/Program 等合成路线可辅助自动化生成电商多轮交互测试用例(如退货流程引导、多条件商品筛选),减少人工设计成本,特别适用于验证 Agent 在长链路、约束复杂场景下的表现。
- 工程化启示:基准揭示前沿模型在自适应纠错、状态追踪上的普遍局限,提示在构建生产级推荐对话 Agent 时,需显式加入外部状态管理模块或校验步骤,而非单纯依赖模型自身能力。
SPyCE:多模态智能体的技能-策略协同进化框架
🧭 多模态Agent · 技能-策略协同进化
Zhejiang University · Beijing University of Posts and Telecommunications
将多模态推理轨迹蒸馏为层级技能库,与策略在强化学习中协同进化,形成自我改进闭环
📌 工作参考价值(4 点)
- 构建层次化技能库:执行技能(局部视觉操作)和工作流技能(高层工具编排),可直接复用于电商多模态Agent设计,将商品图片分析、多步工具调用沉淀为可复用模块。
- 技能与策略闭环进化:在线RL中,用策略生成的高分轨迹持续更新技能库,再用检索到的技能引导策略探索,可实现Agent自我改进,适合需要长期运行的搜索推荐辅助Agent。
- 检索增强的策略条件:将历史成功技能作为先验注入策略模型,可大幅提高样本效率,尤其适用于多步交互场景(如智能客服、视觉比货),避免从零开始探索工具使用模式。
- 视觉操作封装:把图像裁剪、对比、OCR等原子操作抽象为执行技能,可构建可组合的视觉推理流水线,降低MLLM直接操作像素的复杂度。
多头潜在控制:LLM Agent推理决策的统一接口
🧭 Agent 推理时控制接口与多模型路由 ★ 深度解读
University of Alberta · Huawei Technologies Canada Co., Ltd.
通过读取冻结LLM的隐状态轨迹,轻量控制头在推理时做出模型选择与干预决策,大幅降低大模型调用成本。
📌 工作参考价值(4 点)
- 在推荐系统的多模型级联(小模型→大模型)中,可借鉴 Capability Head,从生成隐状态预测小模型是否足够,仅必要时调用大模型,节省成本;特别适合基座模型频繁换代的环境,无需重训基座。
- 对于涉及工具调用的推荐 Agent(如实时查询商品价格、库存),可用 Resolution Head 决定调用时机,减少不必要的工具调用,同时避免遗漏关键调用,提升决策准确率。
- 该轻量控制层只需要冻结基座模型的隐状态,训练成本低(单卡一日内完成),适合业务快速实验和部署;训练数据混合多任务、多模态,使控制信号泛化性更强。
- 前缀预测实验表明,仅用部分生成轨迹即可提前判断模型能力,可在生成早期就决定是否升级模型,进一步降低延迟和计算浪费。
PalmClaw:移动端原生设备能力工具化 Agent 框架
🧭 移动端原生 Agent 架构 · 设备能力工具化
The Hong Kong Polytechnic University · Hangzhou Diagens Biotechnology Co., Ltd.
将手机能力封装为结构化工具,任务成功率相对提升11.5%,完成时间锐减94.9%
📌 工作参考价值(4 点)
- 在移动端电商 Agent(自动比价、下单、提醒)中,将设备功能封装为严格参数化工具,可替代脆弱的 GUI 模拟,提升任务成功率。
- 工具定义需明确输入参数与结构化返回,形成清晰执行边界——这一设计与推荐系统中 API 封装(如商品搜索接口)的设计原则一致,可降低 Agent 规划复杂度。
- 长操作序列(如多步 GUI 点击)合并为单次设备工具调用,大幅缩短耗时(实验减少 94.9%),对实时性要求高的搜索/推荐后链路执行有直接借鉴意义。
- 若构建 LLM 驱动的搜索推荐助手,借鉴其设备工具抽象方法,可将每个数据源、模型服务明确定义为工具,使 Agent 调度更稳定可追溯。
CausalDS:评估数据科学智能体因果推理的合成基准
🧭 因果推理基准 · 数据科学Agent评估
Department of Statistics, University of Michigan
提出通过合成结构因果模型与真实背景故事评估LLM在数据科学管线中的因果推理、工具使用与弃权能力
📌 工作参考价值(4 点)
- 在电商搜索推荐中,可借鉴其合成SCM+观测噪声生成评估数据的方法,构建针对因果推断类A/B测试分析、归因模型的离线评测集,避免使用线上真实数据时的数据泄露与鹦鹉风险。
- 弃权作为第一类评分结果的设计可直接迁移到Agent辅助的数据分析产品中:当置信度不足或信息缺失时,要求Agent主动声明“无法回答”,提升输出可靠性,尤其适用于策略归因、指标异动分析等易出错的场景。
- 联合评估因果推理+编码+工具使用的框架,能用于筛选适合数据科学Agent的LLM,确保其在推荐系统复杂分析(如效果评估、特征因果效应)中既能写出正确的分析代码(如do-calculus实现),又能正确调用pandas、因果库等工具。
- 故事与数据成对生成、覆盖Pearl三层问题的方法,可以启发设计多层级因果问答的评测体系,检验Agent在描述性、预测性、反事实任务上的表现,避免仅关注预测准确率而忽略因果推理深度。
层次实验型智能体:通过主动实验进行上下文自我改进
🧭 LLM Agent主动实验与技能学习
University of Massachusetts Amherst
LLM通过主动实验动态学习可复用技能库,在未见物理任务中成功率从2%提升至77%
📌 工作参考价值(4 点)
- 新场景主动探索机制:在推荐或广告系统中,面对新用户群体或新品类时,可借鉴 HExA 的分层实验设计——高层规划探索方向(如尝试不同召回策略),低层执行具体干预并记录结果,形成可复用的“技能”模板(如特定人群的优惠券推送策略),避免盲目 random AB test。
- 在线学习技能库:将推荐系统优化过程抽象为“技能”(如某类 CTR 提升技巧),每次实验后的成功策略存入上下文技能库,下次类似场景可直接组合调用,类似 HExA 的 learn_from_experience,减少重复探索成本。
- 跨场景技能迁移:HExA 从简单物理任务中学习的技能可零样本迁移到困难任务(44% 成功率)。在推荐中,可在一个小流量域(如新频道)学到的有效策略(如冷启动物料组合方式)迁移至主域,降低冷启动成本。
- 上下文技能组合:HExA 通过上下文学习将实验产生的技能组合成复杂策略,业务中可用类似思路将多个简单推荐规则(召回、过滤、排序规则)作为可组合的“技能块”,Agent 根据当前场景动态拼接,无需重新训练模型。
渐进式多模态搜索 Agent 用于知识型视觉问答
🧭 Agent 自适应多模态检索
OPPO AI Center · Tsinghua University · Nanyang Technological University
提出自适应调用图文检索的 Agent,并通过长度与深度归一化的 RL 优化搜索策略
📌 工作参考价值(4 点)
- 自适应检索流程:Agent 迭代选择图像搜索、文本搜索或停止,带工具调用预算和去重。在电商商品搜索中,可构建类似 Agent,根据用户意图动态决定查询商品图库还是文本描述库,避免固定 top-k 带来冗余。
- 序列级 RL 训练归一化:TN-GSPO 根据生成长度与工具交互深度归一化更新,缓解冗长交互被过度惩罚的问题。训练推荐对话 Agent 时,可借鉴此目标,平衡回答质量与多轮交互开销。
- 两阶段训练范式:先拒绝采样 SFT 学习合法工具调用格式,再 RL 优化。对落地 Agent 很有参考意义:先用人工或规则筛选合法 action 轨迹微调,再线上 RL 提升策略。
- 去重机制:对已检索内容去重,避免重复调用工具。在召回或多路检索场景中,可加入类似历史感知的去重,减少无效请求,提升效率。
OpenBioRQ:面向智能体的未解决生物医学研究问题基准
🧭 智能体工具调用评估 · 忠实性探针
Upstage AI
首个未解决问题与工具调用结合的生物医学Agent基准,揭示~16%引用错误及高难点上的工具弃用崩溃
📌 工作参考价值(4 点)
- 在电商客服/推荐解释Agent中,采用无标准答案的查询评测工具调用忠实性,防止模型记忆答案而跳过检索
- 用经验性困难度锚定(参考模型集体失败的问题)构建高难度测试集,有效暴露工具弃用现象
- 引入冻结的试题检查清单(checklist)大幅提升评估一致性(Spearman从0.35→0.82),可迁移至内部评测流程
- 在最难问题上强制保留工具调用或设置工具使用下限,避免Agent过早放弃工具,保障回答可靠性
OpenClaw-Skill:面向智能体 LLM 的集体技能树搜索框架
🧭 集体技能树搜索与强化学习框架 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University · Tsinghua University · Royal Melbourne Institute of Technology · Beijing University of Aeronautics and Astronautics
利用多模型集体智能构建结构化、多样且可迁移的技能树,并配合跨技能对比的强化学习,显著提升 LLM 智能体在长程工具使用任务上的表现
📌 工作参考价值(4 点)
- 复杂推荐流程的工序化拆解:将多步骤推荐任务(如 Query 理解→候选召回→重排序→解释生成)显式分解为子任务,对每个子任务构建技能节点,形成可组合的推荐技能树,避免长流程的碎片化推理。
- 多模型轨迹蒸馏生成多样技能:在电商/搜索场景中,利用多个不同偏好或规模的 LLM 对同一子任务生成执行轨迹,再蒸馏为候选技能,能显著提升技能覆盖度,防止技能集过度拟合单一模型的推理风格。
- 技能迁移性评估确保跨模型复用:采用「技能合成模型≠验证模型」的迁移性评分,可筛选出真正通用的推荐技能。这在推荐 Agent 需要部署在不同 backbone LLM 上时尤其有价值,避免反复定制。
- 技能条件下的跨分支对比 RL 训练:在推荐策略优化中,不局限于单个技能,而是对多个备选技能分别 rollout,并基于跨技能归一化优势进行 GRPO 更新,迫使策略学会在不同场景下自适应选择最优技能,避免陷入单一策略的局部最优。
SpatialClaw:以编程为行动界面的空间推理Agent
🧭 Agent 设计 · 代码作为行动界面 ★ 深度解读
NVIDIA · KAIST
提出以Python代码作为行动界面,在持久内核中迭代组合感知工具,显著提升开放式空间推理性能。
📌 工作参考价值(4 点)
- Code as Action 替代固定工具调用:在 Agent 设计中,用 Python 代码生成代替 JSON/XML 结构化工具调用,可动态组合基础 API(分割、重建、计算)完成任意复杂任务。电商场景的智能客服或商品属性提取 Agent 可借鉴,让模型根据问题实时编写数据处理代码,而非受限于预定义工具列表。
- 持久化内核支持观察-修正循环:将执行环境设为持久化 Python 内核,中间变量、可视化结果跨步骤保留。推荐系统的在线调参或分析环节可引入类似机制:每步执行后保留状态,Agent 根据输出反馈修正后续步骤,避免一次性提交全部分析策略。
- 通用计算库赋能动态组合:工具设计为普通 Python 可调用对象,同时预加载 NumPy/SciPy/Matplotlib,使 Agent 无需专属工具即可用基础运算实现统计、空间索引等需求。生成式推荐中,可让 Agent 在召回、排序阶段动态组合检索策略与重排逻辑,利用通用库实现临时的指标计算。
- 无微调的泛化 Prompt 工程:系统提示编码领域通用推理原则(如“用度量计算代替像素估计”、“多证据交叉验证”),而非任务特定示例,跨 20 个基准和多个模型家族均有效。构建电商多模态 Agent 时,可提取通用规则提示,降低每个新任务的手动适配成本。
Skill-3D:面向智能体 3D 空间推理的自进化场景感知技能框架
🧭 多模态 Agent · 场景感知工具使用
Zhejiang University · University of Technology Sydney · OPPO Research Institute
通过场景记忆记录工具轨迹并蒸馏为可复用技能,配合失败教训,实现代理工具使用的自进化场景感知,大幅提升 3D 空间推理中工具利用率与任务成功率。
📌 工作参考价值(4 点)
- 场景感知的技能复用:在电商推荐或客服 Agent 中,可根据用户意图或商品类别动态选择调用不同的工具/模型(如价格比较、商品属性查询、3D 试穿引擎),将相似场景的成功交互轨迹蒸馏为预置技能,避免每次都从零规划,减少工具误用。
- 失败教训注入:在 Agent 记忆模块中不仅存储成功案例,还附加失败尝试的教训总结,当相似场景再现时一并注入提示,可有效降低重复错误。例如在导购对话中,对无效推荐策略自动标注并修正。
- 闭环自进化机制:技能库与记忆协同更新的循环,可借鉴到线上 Agent 的持续学习中,通过真实交互数据不断优化工具调用策略,但需注意安全防护和人工审核。
- 多任务异构适配:直接启示是避免对多场景使用统一固定流程,应根据场景特征分而治之。在 3D 商品展示、AR 试穿等应用中,可根据商品类别(鞋、家具)自动选择测量或渲染工具,提升效率。
AURA:基于意图导向探测的情景化LLM Agent隐式需求浮现
🧭 Agent意图推断与探测控制 ★ 深度解读
Guangdong Institute of Intelligence Science and Technology
在工具使用前插入IntentFrame推断,用gap分控制探测预算,提升隐式需求覆盖率。
📌 工作参考价值(4 点)
- 在对话式推荐或客服Agent中,显式建模用户字面查询与隐式需求之间的gap:由LLM输出结构化IntentFrame,根据gap值决定后续信息检索预算(如调用商品详情、评价、库存API的步数),避免对显式需求已获满足的查询过度探查。
- 将探查与回答生成解耦:探查结果作为紧凑的上下文传入最终生成,支持缓存和跳过;一旦探查结果已满足隐式需求即提前停止,减少API调用和延迟。
- 利用gap分触发预警(heads-up alert):当gap较高时,向用户主动提示推断出的潜在需求(如商品库存紧张、同类目的替代品、价格波动),提升交互主动性。
- 工具白名单机制确保隐私合规:通过工具注册表和基于pattern的allow/deny策略,低gap查询自动跳过禁止工具,隐私敏感场景可零违规。可借鉴至需要控制数据访问权限的推荐/客服系统。
Context-as-a-Service:为 LLM 智能体提供跨文件依赖链检索层
🧭 Agent 工具增强 · 跨文件依赖检索
Meta Platforms, Inc.
提出 CaaS 检索层,让 LLM 代理通过混合搜索追踪跨文件依赖,提升文档审查质量并节省 22-34% 时间
📌 工作参考价值(4 点)
- 检索增强代理设计模式:在电商推荐系统中,为 Agent 构建专用检索索引(如商品知识图谱、接口文档、历史实验记录),使用「关键词+语义」混合搜索作为工具,让 Agent 自主查询跨模块依赖,避免将所有上下文塞入 prompt,能显著提升复杂任务(如推荐链路排障、AB 报告生成)的准确性和效率。
- 增量评估方法:论文采用基线已具备常规仓库工具(文件读取、关键词搜索)再叠加检索层的对比方式,可迁移到评估推荐 Agent 增强方案,确保效果归因于新增的检索能力而非基础工具完善。
- 减少 token 开销的工程技巧:通过有目标的检索索引,Agent 无需加载大量上下文,输入 token 使用量下降,节省成本。这在调用大模型生成推荐理由、商品描述等高频任务中可直接复用。
- 依赖链追踪对多智体协作的启示:电商多 Agent 系统中,各 Agent 处理不同领域(商品、用户、营销),CaaS 的思路可用来构建跨 Agent 知识检索总线,使 Agent 能按需查询其他 Agent 的输出依赖,避免信息孤岛。
DAR:基于Agent Harness的按需法规推理
🧭 Agent推理中的法规按需交互 ★ 深度解读
Johns Hopkins University · Télécom Paris · Institut Polytechnique de Paris
提出让LLM按需检索法规的Agent推理框架DAR,揭示Harness仅放大已有能力:前沿模型获益,弱模型退化并消耗更多token。
📌 工作参考价值(4 点)
- 在需要依据长文档规则(如电商政策、合规条款)进行推理的Agent场景,将规则文件外置,让模型通过grep/sed等工具按需检索关键段落,比一次性全量注入prompt更高效,尤其适合强模型。
- 模型选型启示:仅足够强的基座模型(如GPT-5、Claude)能从工具交互中稳定获益;弱模型在同样的harness下反而性能下降且token消耗倍增(达4×),部署前务必评估基座能力与harness的匹配度。
- Harness设计可借鉴Terminus-KIRA的思路:增加完成校验、防止提前提交、支持观察新信息后修订计划等机制,显著提升多步推理Agent的可靠性,避免模型过早给出错误答案。
- 在工程实现中,需对Agent设置严格的时间与token预算,并监控超时与解析失败;开源模型主要失败于超时(占比达10.6%),合理的资源控制能避免无效算力浪费。
合成并奖励:面向在线环境的多步工具调用的强化学习
🧭 Agent 多步工具使用 · 强化学习奖励设计 ★ 深度解读
IBM Research
提出 PROVE 框架,通过 live MCP 环境、状态感知合成与无 judge 的多组件程序化奖励,用 RL 提升多步工具调用
📌 工作参考价值(4 点)
- 状态感知的数据合成:通过依赖图和 live 状态采样生成多轮轨迹,确保参数引用真实实体,避免合成数据不可执行,可直接用于训练电商 Agent(如查询商品、下单、退款)。
- 无 judge 的分解式程序化奖励:将奖励拆分为有效性、覆盖率、效率惩罚、工具名奖励、参数值匹配,不需要 LLM judge。效率惩罚采用复杂度自适应的调用预算,能抑制模型无意义的多余工具调用,对生成式推荐的多步骤控制有直接参考价值。
- 适应性效率惩罚:根据任务所需的 ground-truth 调用数动态设置预算(B = n_gt + ceil(n_gt * 0.5)),超过预算才受罚,既鼓励探索又避免冗余,这种设计可以迁移到多步 Agent 的步骤数约束。
- RL 训练优于 SFT:用相同数据做 SFT 会导致 τ2‑bench 性能下降,而 RL 保持提升,说明执行反馈和奖励信号对多步对话行为至关重要,提示我们应在实际业务中耦合 RL 训练循环而非单纯依赖 SFT。
AgenticVBench:评估视频后期制作中多模态 AI 代理的基准
🧭 多模态代理 · 视频后期制作基准 ★ 深度解读
Philo Labs Research
首个覆盖视频后期全流程的代理基准,揭示脚手架设计对代理性能的一阶影响
📌 工作参考价值(4 点)
- 脚手架(harness)是一阶变量:同一模型在不同脚手架下的得分差距可达20个百分点。在构建电商/Agent系统时,应像重视模型选型一样重视底层工具链和规划循环的设计。
- 为多模态代理提供专用工具原语:OpenClaw提供的image、tts、video_generate等类型化原语在Sequencing任务中胜出,而通用shell工具使模型在Assembly上表现差。构建电商视频处理或广告合成的Agent时,应封装高层级、参数化的多模态操作,而非让模型从零编写ffmpeg命令。
- 代理失败模式分析指导工程方向:Repurpose任务中83%的失败源于长上下文信息丢失,Repair中24%由模态错位导致。在电商场景中,类似的产品视频压缩或修复任务应优先设计更鲁棒的长期记忆和跨模态对齐机制。
- 基准设计覆盖真实工作流:任务源于20位行业专家的日常流程,涉及0.5小时到一周的人力耗时。这种设计方法可迁移到电商售后、内容生成等Agent任务的真实度校验——从从业者工作流出发定义任务和评分标准,避免脱节。
长视频关键帧检索:查询分解为工具调用与布尔合并
🧭 长视频理解 · 查询分解与工具调用 ★ 深度解读
University of Illinois at Urbana-Champaign
ToolMerge 用 LLM 规划器将查询分解为多个轻量视觉工具调用,并通过布尔运算符合并排名,在长视频关键帧检索上取得领先
📌 工作参考价值(4 点)
- 查询分解与工具融合范式:在电商搜索或商品推荐中,可将一个复杂查询(如“红色连衣裙,有蕾丝,适合晚宴”)分解为多个独立检索流(颜色、材质、场景),每个流用专用 scoring 工具,再用布尔 rank 合并(AND/OR)代替简单加权,可提升多属性检索精度。
- 轻量级检索 + LLM 规划器分离:工业级系统可沿用 SigLIP/CLIP 等轻量模型做粗筛,OCR 等规则做精准补充,再由 LLM 规划器决定如何组合,无需对每一帧或每一件商品调用大模型,大幅度降低延迟和成本。
- 无标注 RL 优化检索策略:GRPO 训练规划器时,仅使用基于时间戳的召回分数作为奖励,无需人工标注最优工具调用序列。这一思路可直接迁移到商品推荐或 RAG 场景,用用户点击或检索命中率作为奖励,通过 RL 优化查询分解策略。
- NMS 去重维持多样性:在最终帧选择中使用的贪婪 NMS(保证最小时间间隔),可借鉴到推荐系统的多样性约束,选择相似度高的候选项进行步进式过滤,平衡相关性和多样性。
SEAL:智能体与学习环境的协同共进化
🧭 智能体与环境协同进化训练 ★ 深度解读
Ant Group · Westlake University · University of Michigan–Ann Arbor · University of Science and Technology of China
利用可执行验证器为基础的失败诊断作为共享信号,协同进化训练界面与策略,显著提升低资源多轮工具使用学习
📌 工作参考价值(4 点)
- 训练时界面增强而不改评估基准:在工具调用训练中,可对工具描述进行轻量注解(如标注必填参数、枚举值范围),并针对失败返回结构化修复提示,不改变API或评估协议,为强化学习提供更密集的监督信号,类似推荐系统中细化反馈。
- 失败诊断驱动的重要性加权:在GRPO等策略优化中,利用可执行规则将失败归类(参数错误、工具缺失等),根据故障可归因性分配轨迹权重,优先学习有明确修正方向的失败,可在电商多轮Agent训练中加速收敛、提升样本效率。
- 闭环式环境-策略协同迭代:收集当前策略的失败分布(失败画像),动态调整训练界面(暴露约束提示、错误恢复建议),形成“策略暴露短板→环境针对性辅导→策略内化”的闭环,适合需要快速适应新任务或新工具的Agent系统。
- 低资源高效起步:仅用400个训练样本便取得显著提升,适用于标注数据稀缺的业务场景(如新工具上线、冷启动),可快速验证Agent能力边界。
HarnessAPI:技能优先的统一流式API与MCP工具框架
🧭 Agent 工具部署与统一API框架
Western Michigan University
从单一技能文件夹自动派生流式HTTP端点、OpenAPI UI和MCP工具,减少74%样板代码
📌 工作参考价值(4 点)
- 单源技能定义:借鉴“技能文件夹 + Pydantic schema”模式,为每个业务能力(如推荐召回、订单查询)设置单一事实源,自动导出HTTP端点和MCP工具,避免双重维护,降低Agent工具与人工接口的偏离风险。
- 双模响应协商:同一handler通过Content-Type自动切换SSE流式与JSON响应,适合生成式推荐中流式生成结果与常规RPC调用,无需重写业务逻辑。
- 全生态继承:HarnessAPI子类化FastAPI,可直接复用现有中间件、依赖注入、鉴权和部署方案,工程落地成本低,适合在已有FastAPI服务上快速增加MCP工具暴露。
- 动态代码生成保型:通过动态生成模块确保Pydantic类型注解在MCP工具层正确传递,解决闭包注册时的类型丢失问题,对需要强类型校验的Agent工具链(如电商API参数校验)至关重要。
煮蛙效应:面向智能体安全的多轮基准测试
🧭 Agent 安全评估·多轮对抗攻击
Icaro Foundation · Sapienza University of Rome · Sant’Anna School of Advanced Studies · Tongji University School of Law · VU Amsterdam
评估工具型AI在办公场景下对逐步升级攻击的脆弱性,多模型平均严格攻击成功率44.4%
📌 工作参考价值(4 点)
- 可以借鉴“煮蛙”思路,在电商 Agent 测试中设计多轮逐步升级的恶意指令链,检查智能体是否会在不经意间执行高危操作(如修改库存、泄露用户数据)。
- 评测方法强调状态化评估,关注最终环境状态是否变为不安全,而非单轮回复,适用于评估订单处理、客服等有持久状态的 Agent 系统。
- 风险分类参考欧盟 AI 法案,可为合规审计提供框架:按操作风险等级构建测试场景,识别 Agent 在关键业务域的安全薄弱点。
- 攻击链中延迟注入风险请求的编排方式,可用于生成对抗训练数据,提升自研推荐/搜索 Agent 对长程诱导攻击的鲁棒性。
面向延迟优化的 Web Agent 规划与调度的 Agent JIT 编译
🧭 Agent 规划调度优化 ★ 深度解读
Stanford University
通过 JIT 编译、不变式强制工具协议和代价优化规划/调度,将 Web Agent 延迟降低 10.4 倍且准确率提升 28%。
📌 工作参考价值(4 点)
- 工具协议的设计(pre/post conditions):在电商自动化操作中,可以为每个动作(如添加购物车、结算)定义前置页面状态与后置预期状态,编译时即做状态流校验,大幅减少点击错误元素等失误(实验中该类错误从 59% 降至 25%)。
- 代价优化的规划策略:同时生成多个任务计划(代码形式),通过静态检查与代价模型(惩罚 LLM 调用和循环)选出最低成本计划。在电商场景可用来减少不必要的 LLM 推理,将大量纯代码操作替代昂贵模型调用。
- 自适应调度(串行/并行/对冲):根据历史延迟分布做蒙特卡洛估计,为每个任务选择最优策略。当电商操作中某些元素交互方差大(如查找特定商品按钮)时自动采用对冲(同时多路执行取最早成功),可有效控制尾延迟。
- 缓存与工具代码复用:将成功执行 trace 合成为可缓存工具,后续任务直接调用代码而非每步推理,显著降低延迟并将 LLM 调用次数降至接近零。类似做法可直接用于重复性电商流程(如批量比价、多店铺信息抓取)。
Spreadsheet-RL:在真实 Excel 环境中通过强化学习训练电子表格代理
🧭 电子表格代理 · 强化学习训练 · 工具设计 ★ 深度解读
University of Illinois Urbana-Champaign · Meta
首个面向电子表格的端到端 RL 后训练框架,将 4B 开源模型 Pass@1 从 12.0% 提升至 23.4%
📌 工作参考价值(4 点)
- 多步交互的 tool harness 设计:将电子表格操作抽象为专用工具(find_cells、fill_formula、delete_rows),并强制遵循 inspect→modify→verify 的工作流。这种结构化 action space 对于长链路 agent 的稳定 RL 训练至关重要,可类比于电商多步任务中的工具路由与执行规则设计。
- 无 SFT 的 RL 冷启动技巧:在 RL 前通过 spreadsheet-native harness 提供更强初始策略(Pass@1 从 12.0% 到 15.6%),避免完全依赖代码生成导致的低级失败。对于难以获得 step-by-step 标注数据的业务场景(如库存规划、价格调整),可先构建结构化工具和交互协议,再直接应用 GRPO。
- 异步奖励计算模式:由于 Excel 重计算耗时且依赖 Windows,采用异步提交-轮询的 verifier 实现可扩展的 RL 训练。这与电商 agent 需调用线上服务获取真实反馈的场景相似,可借鉴其 per-rollout 工作空间隔离和异步奖励设计。
- 领域泛化的数据构造策略:通过自动化管道从论坛收集初始-最终电子表格对,并引入领域模板生成 Domain-Spreadsheet 基准。对于生成式推荐或 agent 的多领域迁移,这种低成本合成专业任务的方式值得参考,尤其当业务域缺乏标注数据时。
基于案例的自适应推理与执行校准用于LLM工具调用
🧭 LLM ★ 深度解读
University of Electronic Science and Technology of China
利用历史执行轨迹构建案例,提取复杂度与失败轮廓,联合校准推理预算与工具执行结构
模型自适应工具必要性揭示LLM工具使用中的知行鸿沟
🧭 Agent工具使用决策·元认知检测 ★ 深度解读
University of Maryland, College Park
基于模型能力重新定义工具必要性,发现LLM内部认知与实际行动脱节,错配主因在认知到行动的转换阶段
📌 工作参考价值(4 点)
- 1. 在电商Agent/多智体场景中,评估工具调用必要性时应改用模型自适应的阈值,而非人工静态标注——用多个采样运行的一致性(如N=10, T=0.7)判断模型是否真正需要工具,更贴合实际部署。
- 2. 可以通过隐藏状态线性探测快速诊断工具调用错配的根源:是模型认知不到必要(阶段1),还是认知到了但执行失败(阶段2)。若阶段2占比高,无需重新微调认知,重点应放在后期层对齐。
- 3. 后期层中认知与行动方向近乎正交,提示可在训练时加入对齐正则项,或在推理时对最后几个token的残差流进行干预(如转向认知方向),强制知行一致,减少无谓工具调用。
- 4. 系统设计里,与其依赖显式自我评估(会大幅改变行为),不如直接监测内部状态来触发工具,避免知行鸿沟,这对需要高可靠性的搜索、计算类工具尤其有用。
PREPING:无需目标任务的智能体记忆构建
🧭 Agent ★ 深度解读
KAIST · DeepAuto.ai
通过提议者引导的合成实践与验证过滤,在部署前无需任何目标环境任务即可构建可复用程序性记忆